图灵奖得主 Hinton：我已经老了，如何控制比人类更聪明的 AI 交给你们了

图片地址：https://img.ithome.com/newsuploadfiles/2023/6/c756ae04-0bb5-4c43-9562-9fbf73e29d0b.png?x-bce-process=image/format,f_auto

还记得大牛们就“AI 是否可能灭绝人类”，分成了两大阵营吗？由于并不理解为啥“AI 会造成风险”，吴恩达最近开启了一个对话系列，去找两名图灵奖得主聊聊：AI 究竟存在哪些风险？有意思的是，在相继和 Yoshua Bengio以及 Geoffrey Hinton进行深度对话后，他和他们“达成了不少共识”！他们一致认为，双方应该共同讨论 AI 具体会产生什么风险，以及它究竟“理解了什么”。Hinton 还特意 cue 了“反方代表”图灵奖得主 Yann LeCun：学术界在这个问题上分歧太大了，包括我们非常尊重的学者如 Yann，就认为大模型并不理解它自己在说什么。马斯克对这次谈话也很感兴趣：除此之外，Hinton 最近还在智源大会上再一次“布道”AI 风险，表示比人更聪明的超级智能很快就会出现：我们不习惯思考比我们聪明得多的东西，以及如何与它们互动。我现在看不出如何防止超级智能“失控”，而我已经老了。我希望，更多年轻的研究人员能掌