微比恩 > 信息聚合 > 大模型增速远超摩尔定律!MIT 最新研究:人类快要喂不饱 AI 了

大模型增速远超摩尔定律!MIT 最新研究:人类快要喂不饱 AI 了

2024-03-18 16:41:06来源: IT之家

【新智元导读】近日,来自 MIT (麻省理工学院)的研究人员发表了关于大模型能力增速的研究,结果表明,LLM 的能力大约每 8 个月就会翻一倍,速度远超摩尔定律!硬件马上就要跟不上啦!我们人类可能要养不起 AI 了!近日,来自 MIT FutureTech 的研究人员发表了一项关于大模型能力增长速度的研究,结果表明:LLM 的能力大约每 8 个月就会翻一倍,速度远超摩尔定律!论文地址:https://arxiv.org/pdf/2403.05812.pdfLLM 的能力提升大部分来自于算力,而摩尔定律代表着硬件算力的发展,—— 也就是说,随着时间的推移,终有一天我们将无法满足 LLM 所需要的算力!如果那个时候 AI 有了意识,不知道会不会自己想办法找饭吃?上图表示不同领域的算法改进对有效计算翻倍的估计。蓝点表示中心估计值或范围;蓝色三角形对应于不同大小(范围从 1K 到 1B)的问题的倍增时间;紫色虚线对应于摩尔定律表示的 2

关注公众号
标签: 大模型