GPT-4 变笨加剧，被曝缓存历史回复：一个笑话讲八百遍，让换新的也不听

图片地址：https://img.ithome.com/newsuploadfiles/2023/11/36fdecc8-a6b8-40a5-89ae-d72063851e5b.png?x-bce-process=image/format,f_auto

有网友找到了 GPT-4 变“笨”的又一证据。他质疑：OpenAI 会缓存历史回复，让 GPT-4 直接复述以前生成过的答案。最明显的例子就是讲笑话。证据显示，即使他将模型的 temperature 值调高，GPT-4 仍重复同一个“科学家与原子”的回答。就是那个“为什么科学家不信任原子？因为万物都是由它们编造 / 构造（make up）出来的”的冷笑话。在此，按理说 temperature 值越大，模型越容易生成一些意想不到的词，不该重复同一个笑话了。不止如此，即使咱们不动参数，换一个措辞，强调让它讲一个新的、不同的笑话，也无济于事。发现者表示：这说明 GPT-4 不仅使用缓存，还是聚类查询而非精准匹配某个提问。这样的好处不言而喻，回复速度可以更快。不过既然高价买了会员，享受的只是这样的缓存检索服务，谁心里也不爽。还有人看完后的心情是：如果真这样的话，我们一直用 GPT-4 来评价其他大模型的回答是不是不太公平？当然，也有人不