Nature：大模型只会搞角色扮演，并非具有真正的自我意识

图片地址：https://img.ithome.com/newsuploadfiles/2023/11/eb1181e3-ecb3-493f-a6ef-48e001dfef73.png?x-bce-process=image/format,f_auto

大模型正变得越来越“像人”，但事实真是如此吗？现在，一篇发表 Nature 上的文章，直接否决了这个观点 —— 所有大模型，都不过是在玩角色扮演而已！无论是 GPT-4、PaLM、Llama 2 还是其他大模型，在人前表现得彬彬有礼、知书达理的样子，其实都只是装出来的。事实上，他们并不具有人类的情感，也没什么像人的地方。这篇观点性的文章来自谷歌 DeepMind 和 Eleuther AI，发出后引起了不少业内人士的共鸣，LeCun 转发表示，大模型就是个角色扮演引擎。马库斯也来围观：看我说什么吧，大模型并不是 AGI（当然这并不意味着它们不需要监管）。那么，这篇文章究竟说了什么，为什么认定大模型只是在角色扮演？大模型努力扮演得像人大模型表现出“像人”的现象，主要有两个：首先，它具有一定的欺骗性；其次，它具有一定的自我意识。欺骗性，即有时候大模型会坚称自己知道某件事，但其实给出的答案是错误的；自我意识，指有时候它会使用“我”来叙