马斯克打脸OpenAI！全球最大模型Grok-1开源，高达3140亿参数震撼世界｜钛媒体AGI

图片地址：https://images.tmtpost.com/uploads/images/2024/03/5fa3429ccb2b829d77f896bfa41d5f6a_1710728489.jpeg

马斯克参加纽约时报活动（来源：视频截图）就在刚刚，马斯克（Elon Musk）真的实现了他的承诺——把大模型Grok-1开源了。钛媒体App获悉，北京时间3月18日早上，“硅谷钢铁侠”、亿万富翁马斯克旗下 AI 初创公司 xAI 宣布，其研发的大模型Grok-1正式对外开源开放，用户可直接通过磁链下载基本模型权重和网络架构信息。xAI表示，Grok-1 是一个由 xAI 2023 年 10 月使用基于 JAX 和 Rust 的自定义训练堆栈、从头开始​​训练的3140亿参数的混合专家（MOE）模型，远超OpenAI的GPT模型。而此次开源的模型是是 Grok-1 预训练阶段的原始基础模型，没有针对任何特定应用（例如对话）进行微调。对此，英伟达科学家Jimfan评价称，这是有史以来最大的开放大型语言模型，由世界级团队训练，通过磁力链接发布。Apache 2.0。 314B