英伟达 A100 GPU 登陆亚马逊云服务，推理性能比 CPU 快237倍

图片地址：https://img.ithome.com/newsuploadfiles/2020/11/20201104_152024_63.png

IT之家 11 月 4 日消息 根据英伟达官方的消息，在 AWS 运行 NVIDIA GPU 十周年之际，AWS 发布了采用全新 A100 的 Amazon EC2 P4d 实例。IT之家了解到，现在已全面上市的全新 AWS P4d 实例采用最新 NVIDIA A100 Tensor Core GPU。A100 计算卡采用了 7nm 工艺的 GA100 GPU，这款 GPU 拥有 6912 CUDA 核心和 432 张量核心。GPU 封装尺寸为 826mm2，集成了 540 亿个晶体管。英伟达表示，全新的 P4d 实例，为机器学习训练和高性能计算应用提供 AWS 上性能与成本效益最高的 GPU 平台。与默认的 FP32 精度相比，全新实例将 FP16 机器学习模型的训练时间减少多达 3 倍，将 TF32 机器学习模型的训练的时间减少多达 6 倍。这些实例还提供出色的推理性能。NVIDIA A100 GPU 在最近的 MLPerf