IT之家 11 月 13 日消息,英伟达今日发布了下一代人工智能超级计算机芯片,这些芯片将在深度学习和大型语言模型(LLM)方面发挥重要作用,比如 OpenAI 的 GPT-4。新芯片相比上一代有了显著的飞跃,将被用于数据中心和超级计算机,处理诸如天气和气候预测、药物发现、量子计算等任务。此次发布的关键产品是基于英伟达的“Hopper”架构的 HGX H200 GPU,是 H100 GPU 的继任者,也是该公司第一款使用 HBM3e 内存的芯片,这种内存速度更快,容量更大,因此更适合大型语言模型。英伟达称:“借助 HBM3e,英伟达 H200 以每秒 4.8 TB 的速度提供 141GB 的内存,与 A100 相比,容量几乎是其两倍,带宽增加了 2.4 倍。”在人工智能方面,英伟达表示,HGX H200 在 Llama 2(700 亿参数 LLM)上的推理速度比 H100 快了一倍。HGX H200 将以 4 路和 8 路的配置
英伟达发布下一代超算芯片 HGX H200 GPU,配备 141 GB HBM3e 内存
2023-11-13 22:38:32来源: IT之家
关注公众号
赞
你的鼓励是对作者的最大支持
- 微软打破 Decoder-Only 架构:大幅降低 GPU 内存需求2024-05-11 23:28:49
- 更专注AI和半导体,甚至有意PK英伟达!软银出售部分“愿景基金”资产2024-05-11 13:09:51
- 美股大型科技股盘前多数上涨,英伟达涨超1%2024-05-10 20:43:45
- TrendForce:2023 年英伟达超越高通成为全球营收最高芯片设计厂商2024-05-09 22:11:29
- 英伟达发布 552.44 驱动更新,支持《对马岛之魂:导演剪辑版》与《家园 3》2024-05-09 22:36:41
- 传软银正洽谈收购一家AI芯片初创公司 曾被冀望成为“英国英伟达”2024-05-09 17:29:15
- 郭明錤预测英伟达 2025 年第 4 季度量产新一代 R 系列 AI 芯片2024-05-08 06:41:36
- 英伟达 RTX 5080 显卡有望先于 5090 推出,RTX 50 系散热模组已开始测试2024-05-08 11:06:20
- 消息称三星组建百人工程师团队,争夺英伟达下一代人工智能芯片订单2024-05-07 19:44:43
- 消息称三星2026年终止与超微合作,Exynos 2600改采自研GPU2024-05-07 14:55:45