IT之家 11 月 22 日消息,微软研究院(Microsoft Research)近日发布新闻稿,推出了相比较主流语言模型更小的 Orca 2 LLM,不过依然可以回答一些复杂问题。微软 Orca 2 共有 70 亿和 130 亿两种尺寸,部分融合了 Llama 2 LLM 参数,通过融合定制的高质量合成数据,提供更准确、更优秀的合成数据。微软表示 Orca 2 使用扩展的、高度定制的合成数据集进行训练。Orca 2 支持分步处理、回忆然后生成、回忆-原因-生成、提取-生成和直接回答等各种推理技术,同时还能为不同的任务选择不同的解决方案策略。Orca 2 模型相比较 Llama 2 和 WizardLM 等大型语言模型,在痛苦理解、常识推理、多步推理、数学问题解决、阅读理解等方面更为优秀。微软表示:“我们的初步结果表明,Orca 2 的性能明显优于类似尺寸的模型。它还达到了与至少大 10 倍的模型相似或更好的性能水平,展示了为
70 亿 / 130 亿参数,微软研究院发布 Orca 2 LLM:性能媲美 10 倍参数模型
2023-11-22 08:37:46来源: IT之家
关注公众号
赞
你的鼓励是对作者的最大支持
- 豪掷 40 亿欧元,微软在法国最大投资官宣落地 AI 领域2024-05-13 17:20:33
- 微软 Edge 浏览器将迎来“智能打印”功能:让打印告别烦人广告和杂乱内容2024-05-13 18:16:07
- 【生态环境周观察】中美就气候问题进行会谈;微软签署史上最大绿色能源协议;隆基刷新单结晶硅光伏电池转换效率世界纪录2024-05-13 14:26:35
- 前暴雪总裁 Ybarra 喊话微软 Xbox:应将重心转移到制作优秀游戏上2024-05-12 15:22:41
- 微软前高级公关经理:XGP 可持续发展的“唯一机会”是纳入《GTA 6》等大作2024-05-12 18:31:35
- 微软因 Cortana 专利侵权被判赔偿 2.42 亿美元2024-05-12 19:04:49
- 微软Xbox移动商店将上线,公开撬苹果、谷歌的墙脚?2024-05-12 08:32:22
- 微软打破 Decoder-Only 架构:大幅降低 GPU 内存需求2024-05-11 23:28:49
- 微软向 Rust 基金会捐赠 100 万美元:投资关键项目、减轻工程师工作压力2024-05-12 11:41:21
- 微软渡过难关:员工加薪解冻、高管部分薪资和安全挂钩2024-05-11 15:04:26
- 1对话李开复:中美大模型差距越来越小,我10年不“套现”|钛媒体AGI
- 2假借“维修宽带”名义上门安装电诈专用“黑盒子”,一犯罪嫌疑人被抓
- 3江铃福特新款领睿 / 领裕完成工信部申报,新增插混动力车型
- 4消息称高通骁龙 8 Gen 4 芯片正进行重新设计以迎战苹果,目标频率 4.26GHz
- 5我国已建成世界最大实时地震观测网
- 6第16个全国防灾减灾日,壹基金再次发起"人人来减灾"活动
- 7雾麻科技将召开2024财年第三季度业绩电话会议
- 8解锁商业AI,赋能新质生产力发展——思爱普中国峰会探展全纪录
- 9浪潮信息发布2024生态伙伴策略:协同共生,释放AI创新力
- 10君实生物等在安徽成立投资基金 出资额1.61亿