ChatGPT 参数规模被扒：只有 7B

图片地址：https://img.ithome.com/newsuploadfiles/2024/3/e91e945e-b8bb-4337-9144-5fcbfaf46e51.png?x-bce-process=image/format,f_auto

ChatGPT 惨遭攻击，参数规模终于被扒出来了 —— 很可能只有 7B（70 亿）。消息来自南加州大学最新研究，他们使用一种攻击方法，花费不到 1000 美元就把最新版 gpt-3.5-turbo 模型的机密给挖了出来。果然，OpenAI 不 Open，自有别人帮他们 Open。具体来说，南加大团队三位作者破解出了未公布的 gpt-3.5-turbo 嵌入向量维度（embedding size）为 4096 或 4608。而几乎所有已知的开源大模型如 Llama 和 Mistral，嵌入向量维度 4096 的时候都是约 7B 参数规模。其它比例的话，就会造成网络过宽或过窄，已被证明对模型性能不利。因此南加大团队指出，可以推测 gpt-3.5-turbo 的参数规模也在 7B 左右，除非是 MoE 架构可能不同。数月前，曾有微软 CODEFUSION 论文意外泄露当时 GPT-3.5 模型参数为 20B，在后续论文版本中又删除了