大模型靠“深呼吸”数学再涨 8 分！谷歌 DeepMind 发现 AI 自己设计提示词效果胜人类

图片地址：https://img.ithome.com/newsuploadfiles/2023/9/7062a562-1f06-4877-8286-91d31b7340ba.png?x-bce-process=image/format,f_auto

提示词中加上“深呼吸”，AI 大模型数学成绩就能再涨 8.4 分！谷歌 DeepMind 团队最新发现，用这个新“咒语”（Take a deep breath）结合大家已经熟悉的“一步一步地想”（Let’s think step by step），大模型在 GSM8K 数据集上的成绩就从 71.8 提高到 80.2 分。而且这个最有效的提示词，是 AI 自己找出来的。有网友开玩笑说，深呼吸以后，散热风扇就转速就提高了。也有人表示，刚高薪入职的提示工程师们也应该深呼吸，工作可能干不久了相关论文《大语言模型是优化器》，再次引起轰动。具体来说，大模型自己设计的提示词在 Big-Bench Hard 数据集上最高提升 50%。也有人的关注点在“不同模型的最佳提示词不一样”。并且不止提示词设计这一个任务，在论文中还测试了大模型在线性回归和旅行商问题这些经典优化任务上的能力。模型不同，最佳提示词也不同优化问题无处不在，基于导数和梯度的算法是