AI黑盒“魔法对轰”！OpenAI神操作：让GPT-4去解释GPT-2

图片地址：http://upload.techweb.com.cn/imgs/2023/0511/1683774871682.jpg

由 ChatGPT 掀起的这场 AI 革命，令人们感慨神奇的同时，也不禁发出疑问:AI 究竟是怎么做到这一切的?此前，即便是专业的数据科学家，都难以解释大模型（LLM）运作的背后。而最近，OpenAI 似乎做到了——本周二，OpenAI 发布了其最新研究:让 GPT-4去试着解释 GPT-2的行为。即：让一个 AI “黑盒”去解释另一个 AI “黑盒”！1、工作量太大，决定让 GPT-4 去解释 GPT-2OpenAI 之所以做这项研究的原因，在于近来人们对 AI 伦理与治理的担忧:“语言模型的能力越来越强，部署也越来越广泛，但我们对其内部工作方式的理解仍然非常有限。”由于 AI 的“黑盒”性质，人们很难分辨大模型的输出结果是否采用了带有偏见性质的方法，也难以区分其正确性，因而“可解释性”是亟待重要的一个问题。AI 的发展很大程度上是在模仿人类，因而大模型和人脑一样，也由神经元组成，它会观察文本规律进而影响到输出结果。