Nature：大模型只会搞角色扮演，并不真正具有自我意识大模型正变得越来越“像人”，但事实真是如此吗？现在，一篇发表Nature上的文章，直接否决了这个观点——所...
Nature：大模型只会搞角色扮演，并不真正具有自我意识
大模型正变得越来越“像人”，但事实真是如此吗？
现在，一篇发表Nature上的文章，直接否决了这个观点——所有大模型，都不过是在玩角色扮演而已！
无论是GPT-4、PaLM、Llama 2还是其他大模型，在人前表现得彬彬有礼、知书达理的样子，其实都只是装出来的。
事实上，他们并不具有人类的情感，也没什么像人的地方。
这篇观点性的文章来自谷歌DeepMind和Eleuther AI，发出后引起了不少业内人士的共鸣，LeCun转发表示，大模型就是个角色扮演引擎。
马库斯也来围观：
看我说什么吧，大模型并不是AGI（当然这并不意味着它们不需要监管）。
那么，这篇文章究竟说了什么，为什么认定大模型只是在角色扮演？
大模型努力扮演得像人
大模型表现出“像人”的现象，主要有两个：首先，它具有一定的欺骗性；其次，它具有一定的自我意识。
欺骗性，即有时候大模型会坚称自己知道某件事，但其实给出的答案是错误的；
自我意识，指有时候它会使用“我”来叙述事情，甚至表现出生存本能。
但事实真是如此吗？
研究人员提出了一种理论，认为大模型的这两种现象，都是因为它在“扮演”人类的角色，而不是真的在像人一样思考 网页链接
版权声明： 发表于 2023-11-20 9:12:38。
转载请注明：Nature：大模型只会搞角色扮演，并不真正具有自我意识大模型正变得越来越“像人”，但事实真是如此吗？现在，一篇发表Nature上的文章，直接否决了这个观点——所... | AI 時.空 | AiTime.Space
转载请注明：Nature：大模型只会搞角色扮演，并不真正具有自我意识大模型正变得越来越“像人”，但事实真是如此吗？现在，一篇发表Nature上的文章，直接否决了这个观点——所... | AI 時.空 | AiTime.Space
暂无评论...