IT之家 11 月 27 日消息,据微软亚洲研究院发布,作为目前唯一被证明能够将深度学习模型扩展到万亿以上参数的方法,MoE 能让模型学习更多信息,并为计算机视觉、语音识别、自然语言处理和机器翻译系统等提供支持。近期,微软亚洲研究院发布了一个高性能 MoE 库 ——Tutel,并在 8x 80GB NVIDIA A100 和 8x 200Gbps 的 InfiniBand 网络的 Azure NDm A100 v4 节点上进行了实验。让我们来看一看,这个用于促进大规模 DNN 模型开发的高性能 MoE 库有哪些优势?其表现又如何?混合专家(Mixture-of-Experts,简称 MoE)是一种深度学习模型架构,其计算成本与参数的数量呈次线性关系,因此更容易扩展。MoE 是目前唯一被证明能够将深度学习模型扩展到万亿以上参数的方法,它能让模型学习更多信息,并为计算机视觉、语音识别、自然语言处理和机器翻译系统等提供支持,从而以全新
微软发布高性能 MoE 库 Tutel,针对大规模 DNN 模型开发提速
2021-11-27 21:21:17来源: IT之家
关注公众号
赞
你的鼓励是对作者的最大支持
- 微软详解 MSN 天气全新 AI 模型:一周预报准确度提升 17%、可预测 30 日天象2024-05-05 14:22:32
- 微软更新服务器:更多 Win10 用户可直接升级到 Win11 23H2 系统2024-05-05 14:47:34
- 微软发现严重安全漏洞,影响数十亿下载量 Android 应用2024-05-05 15:02:57
- 微软 Win10 / Win11 将部署零信任 DNS,阻止无法识别域名的网络流量2024-05-04 21:26:20
- 微软 Start 团队开发 AI 模型,能更准确预报未来 30 天天气情况2024-05-04 23:17:02
- 消息称类魂游戏《堕落之主》本月下旬登陆微软 XGP2024-05-04 11:18:22
- 微软并未放弃 Canary 系统,只是目前未能开发出足够满意的 Windows 版本2024-05-04 15:06:13
- 微软修复 Win11 文件管理器选项卡不兼容“登录时还原”问题2024-05-03 11:07:07
- 继印尼之后,微软宣布将在马来西亚投资 22 亿美元用于云计算和 AI2024-05-02 20:09:39
- 微软加大力度,弹窗推荐 Win10 / Win11 上 Chrome 用户改用 Bing 搜索2024-05-03 08:55:01
- 1巴菲特称其对 AI 一无所知,预计苹果到今年年底仍是其最大投资
- 2全球算力稀缺下,如何看待端侧 AI 设备投资前景?|钛媒体AGI
- 3海信海外推出“三星画壁竞品”CanvasTV 艺术电视:4K 144Hz QLED 哑光面板,999 美元起
- 4特斯拉董事长敦促股东重新批准马斯克天价薪酬方案,价值 550 亿美元
- 5AGI要闻:斯坦福李飞飞首次创业,瞄准“空间智能”;OpenAI下周发布搜索产品挑战谷歌|钛媒体AGI
- 6HMD Rocky 4G 手机规格曝光:5000 毫安时电池、后置三摄
- 7OpenAI下周或发布ChatGPT搜索引擎;巴菲特回应减持苹果:苹果仍将是我们的长期投资;国铁集团回应高铁票价将上涨|…
- 8火遍全网的Jellycat,想赚体育迷的钱
- 9马来西亚将进一步优化中国游客入境程序
- 10China Firmly Opposes New US Sanctions on Chinese Firms in th…