Stable Diffusion 3 模型测试：英特尔 Gaudi2 加速器比英伟达 H100 最多快 55%

图片地址：https://img.ithome.com/newsuploadfiles/2024/3/29836c57-face-4968-8abc-86bd5335ef5f.png?x-bce-process=image/format,f_auto

IT之家 3 月 12 日消息，Stability AI 近日发布新闻稿，表示在文生图模型 Stable Diffusion 3 测试中，英特尔 Gaudi2 加速器比英伟达 H100 最多快 55%。根据新闻稿，Stable Diffusion 3 模型参数范围在 8 亿到 80 亿之间，本次测试使用的是 20 亿参数版本。测试选手包括英伟达的 H100“Hopper” 80 GB、A100“Ampere” 80 GB 和英特尔 Gaudi2 96 GB 加速器。在保持加速器和节点数量不变的情况下，英特尔 Gaudi2 阵列使用 2 个节点、16 个加速器和每个加速器 16 个恒定批处理大小（共 256 个），每秒可生成 927 幅图像，而 H100 阵列每秒生成 595 幅图像，A100 阵列每秒生成 381 幅图像。在节点数相同的情况下，Gaudi2 阵列每秒可生成 12654 幅图像，每台设备每秒可生成 49.