北京2023年11月27日 /美通社/ -- 11月27日,浪潮信息发布"源2.0"基础大模型,并宣布全面开源。源2.0基础大模型包括1026亿、518亿、21亿等三种参数规模的模型,在编程、推理、逻辑等方面展示出了先进的能力。 当前,大模型技术正在推动生成式人工智能产业迅猛发展,而基础大模型的关键能力则是大模型在行业和应用落地能力表现的核心支撑,但基础大模型的发展也面临着在算法、数据和算力等方面的诸多挑战。源2.0基础大模型则针对性地提出了新的改进方法并获得了能力的提升。 算法方面,源2.0提出并采用了一种新型的注意力算法结构:局部注意力过滤增强机制(LFA:Localized Filtering-based Attention)。LFA通过先学习相邻词之间的关联性,然后再计算全局关联性的方法,能够更好地学习到自然语言的局部和全局的语言特征,对于自然语言的关联语义理解更准确、更人性,提升了模型的自然语言
浪潮信息发布源2.0基础大模型,千亿参数全面开源
2023-11-27 19:30:00来源: 美通社
关注公众号
赞
你的鼓励是对作者的最大支持
- 大模型厂商密集发力,谷歌也开“卷”了:Gemini 聊天机器人换上新模型,还能一键核查输出内容2024-07-26 22:36:43
- 只做企业大模型的「Cohere」,获5亿美元融资,估值超55亿美元 | 最前线2024-07-25 11:27:47
- 百度AI大模型多场景赋能医疗,落地临床诊疗尚有距离 | 最前线2024-07-25 11:30:20
- 大模型初创「百川智能」完成50亿元A轮融资,北上深国资入局 | 36氪独家2024-07-25 12:06:54
- 国际首个,我国团队开发糖尿病诊疗多模态大模型 DeepDR-LLM2024-07-25 16:45:33
- 氪星晚报|Meta发布LLAMA 3.1 405B开源人工智能模型;通义大模型成巴黎奥运会首个AI大模型应用技术提供方;…2024-07-24 17:34:25
- 元脑伙伴共行记丨华胜天成:大模型应用落地 技术行业优势需互补2024-07-23 16:46:00
- 努比亚发布两款旗舰手机:自研星云AI大模型 还支持卫星通讯2024-07-23 19:53:36
- 新增「AI 图片编辑」,小米大模型小爱同学获推 V6.126:支持图片背景转换、路人消除等功能2024-07-22 14:01:05
- 科大国创在合肥市人工智能生态大会上发布星云大模型2024-07-21 14:48:16