集成 2.6 万亿个 7nm 晶体管，世界最大 AI 芯片打破单设备训练大模型记录

图片地址：https://img.ithome.com/newsuploadfiles/2022/6/fcd23e23-8b7a-4d02-ad54-04418dbcc8d3.jpg

以造出世界上最大加速器芯片 CS-2 Wafer Scale Engine 闻名的公司 Cerebras 昨日宣布他们已经在利用“巨芯”进行人工智能训练上走出了重要的一步。该公司训练出了单芯片上全世界最大的 NLP（自然语言处理）AI 模型。该模型具有 20 亿个参数，基于 CS-2 芯片进行训练。这块全世界最大的加速器芯片采用 7nm 制程工艺，由一整块方形的晶圆刻蚀而成。它的大小数百倍于主流芯片，具有 15KW 的功率。它集成了 2.6 万亿个 7nm 晶体管，封装了 850000 个内核和 40GB 内存。▲ 图 1 CS-2 Wafer Scale Engine 芯片单芯片训练 AI 大模型新纪录NLP 模型的开发是人工智能中的一个重要领域。利用 NLP 模型，人工智能可以“理解”文字含义，并进行相应的动作。OpenAI 的 DALL.E 模型就是一个典型的 NLP 模型。这个模型可以将使用者的输入的文字信息转