AMD 王牌加速卡 MI300X 出世：训练 AI 模型比英伟达 H100 最高快 60%

图片地址：https://img.ithome.com/newsuploadfiles/2023/12/b50238c8-6293-40b2-be6d-8188cc7f2803.jpg?x-bce-process=image/format,f_auto

IT之家 12 月 7 日消息，AMD 今天凌晨 2 点举办“Advancing AI”活动中，正式宣布了旗舰 AI GPU 加速器 MI300X，其性能比英伟达的 H100 高出 60%。性能：AMD 公司在演讲过程中，对比英伟达的 H100 加速卡，分享了 MI300X 的性能参数情况，IT之家附上数值如下：内存容量是 H100 的 2.4 倍内存带宽是 H100 的 1.6 倍FP8 TFLOPS 精度是 H100 的 1.3 倍FP16 TFLOPS 精度是 H100 的 1.3 倍在 1v1 比较中，训练 Llama 2 70B 模型速度比 H100 快 20%在 1v1 比较中，训练 FlashAttention 2 模型速度比 H100 快 20%在 8v8 Server 比较中，训练 Llama 2 70B 模型速度比 H100 快 40%在 8v8 Server 比较中，训练 Bloom 176B 模型速度比