IT之家 3 月 27 日消息,据外媒 Tom's Hardware 报道,群联在英伟达 GDC2024 上展示了同 Maingear 合作的 aiDaptiv+ 硬件平台,可降低中小型企业 AI 模型微调训练成本。群联表示中小型企业在模型微调训练方面面临各种困难:采用云服务不仅昂贵也存在数据隐私的不稳定性;而在本地运行又需要复杂的构建过程,电力需求也不能忽视。而群联 aiDaptiv+ 方案采用超耐用型 aiDAPTIVCache 固态硬盘,可扩展系统的可用内存容量,容纳更大模型,同时也方便易用。具体来说,aiDaptiv+ 包含的中间件软件库可将 GPU 显存中不活跃的 AI 模型层切片分离,在 aiDAPTIVCache 缓存固态硬盘上暂放待处理的这些切片,并将 GPU 上已完成的部分与待处理的切片交换。此过程无需对 AI 应用本身进行修改。▲ 图源 Tom's Hardware▲ 图源 Tom's Hardwa
利用固态硬盘降低 AI 微调训练显存需求,群联展示 aiDaptiv+ 平台
2024-03-27 16:03:23来源: IT之家
关注公众号
赞
你的鼓励是对作者的最大支持
- 拆解AI四小龙:只闻新人笑,不见旧人愁2024-05-07 18:18:42
- 苹果首颗真正AI PC芯片M4来了!NPU速度快6000%,设备运行速度快1000%|钛媒体AGI2024-05-08 00:00:51
- 网易胡志鹏:AI + 游戏云端算力供给紧张,端侧大模型成解决方案2024-05-07 18:26:48
- 华硕官网泄露 AMD 锐龙 AI 9 HX 170 处理器:12 核 24 线程、77 TOPS AI 算力2024-05-07 18:48:00
- OpenAI 高管:今天的 ChatGPT 将在一年内显得“糟糕得可笑”2024-05-07 20:13:11
- 2024 款苹果 iPad Air 11/13 英寸版发布:M2 芯片、横向 12MP 前置摄像头,599 美元起2024-05-07 22:12:32
- AI 潮影响明显,TrendForce 上修本季度 DRAM 内存、NAND 闪存合约价涨幅预测2024-05-07 15:47:08
- 银河证券:看好AI相关环节国产化带来的投资机遇2024-05-07 14:21:58
- 宜鼎推出 iCAP Air 智能物联空气质量管理解决方案2024-05-07 10:00:00
- 对标苹果 AirPods Max,Sonos Ace 耳机偷跑:售价 403.58 欧元2024-05-07 08:55:29
- 1全球平板电脑市场恢复增长,华为加速扩张、苹果保持领先 | 钛媒体焦点
- 2北特科技在上海成立机器人公司 注册资本1亿
- 3联合水务:股东拟减持公司不超3%股份
- 4“光束时代”获3000万元天使轮融资
- 5人形机器人公司“加速进化”完成Pre-A轮融资
- 6钛媒体独家|智谱AI 正研发对标Sora的国产文生视频模型,最快年内发布
- 7华为云 GaussDB 数据库基础版发布:旗舰性能、价格下降超 60%
- 8中铁在深圳成立科技公司 注册资本2000万
- 9主线科技完成数亿元融资,自动驾驶卡车物流年收入数亿元 | 36氪首发
- 10【硬科技周报】第15周:人工智能大模型公司“面壁智能”宣布完成数亿元融资,比利时计算机视觉初创公司RoboVision获…