AI能理解自己生成的东西吗? 在GPT-4、Midjourney上实验后，有人破案了没有「理解」，「创造」也就无从谈起。从 ChatGPT 到 GPT4，从 DALL・E 2/3 到 Midjourney...
AI能理解自己生成的东西吗? 在GPT-4、Midjourney上实验后，有人破案了
没有「理解」，「创造」也就无从谈起。
从 ChatGPT 到 GPT4，从 DALL・E 2/3 到 Midjourney，生成式 AI 引发了前所未有的全球关注。强大的潜力让人们对 AI 产生了许多期待，但是强大的智能也会引发人们的恐惧和担忧。近期大牛们针对该问题还上演了一场激烈的论战。先是图灵得奖主们「混战」，后有吴恩达下场加入。
在语言和视觉领域，目前的生成模型只需要几秒钟就可输出，甚至能够挑战具有多年技能和知识的专家。这似乎为模型已经超越人类智能的说法提供了令人信服的动机。但是，同样需要注意到的是，模型输出中常有理解性的基本错误。
这样看来，似乎出现了一个悖论：我们要如何协调这些模型看似超人的能力与持续存在的大多数人类都能纠正的基本错误？
近日，华盛顿大学与艾伦人工智能研究院（Allen Institute for AI）联合发布论文，对这一悖论进行研究。
论文地址：arxiv.org/abs/2311.00059
本文认为，之所以会出现这样的现象，是因为当今生成模型中的能力配置与人类的智能配置相背离。本文提出并测试了生成式 AI 悖论假设：生成模型通过训练，直接输出媲美专家的结果，该过程直接跳过了理解生成该质量输出的能力。然而，对于人类来说，这截然不同，基本的理解往往是专家级输出能力的先决条件。
在本文中，研究者通过对照实验来检验这一假设，分析生成模型对文本和视觉的生成、理解能力。本文首先通过两个角度讲生成模型的「理解」概念化 网页链接
版权声明： 发表于 2023-11-04 18:23:08。
转载请注明：AI能理解自己生成的东西吗? 在GPT-4、Midjourney上实验后，有人破案了没有「理解」，「创造」也就无从谈起。从 ChatGPT 到 GPT4，从 DALL・E 2/3 到 Midjourney... | AI 時.空 | AiTime.Space
转载请注明：AI能理解自己生成的东西吗? 在GPT-4、Midjourney上实验后，有人破案了没有「理解」，「创造」也就无从谈起。从 ChatGPT 到 GPT4，从 DALL・E 2/3 到 Midjourney... | AI 時.空 | AiTime.Space
暂无评论...