IT之家 3 月 31 日消息,无论当下 AI 聊天机器人有多么强大,都会或多或少存在一大饱受诟病的行为 —— 以看上去令人信服的方式,向用户提供与事实不符的回答。简单来说,AI 有时会在回答中“满口跑火车”,甚至“造谣”。图源 Pixabay防止 AI 大模型出现这种行为并非易事,且是一项技术性的挑战。不过据外媒 Marktechpost 报道,谷歌 DeepMind 和斯坦福大学似乎找到了某种变通办法。研究人员推出了一种基于大语言模型的工具 ——搜索增强事实评估器(IT之家注:原名为 Search-Augmented Factuality Evaluator,简称 SAFE),可对聊天机器人生成的长回复进行事实核查。其研究结果与实验代码、数据集现已公布,点此查看该系统可通过四个步骤对聊天机器人生成的回复进行分析、处理和评估,以验证准确性和真实性:将答案分割成单个待核查内容、对上述内容进行修正、再与谷歌搜索结果进行比较。随后,
防止聊天机器人“造谣”,谷歌 Deepmind、斯坦福大学研究人员推出 AI 事实核查工具
2024-03-31 17:09:33来源: IT之家
关注公众号
赞
你的鼓励是对作者的最大支持
- 全球科技少年齐聚达拉斯,2024 VEX 机器人世界锦标赛高潮迭起2024-05-15 18:06:00
- 宇树发布 Unitree G1人形机器人,9.9万元起 | 最前线2024-05-14 21:12:39
- AI 聊天机器人大战升温:谷歌 Gemini 预告片展示惊艳语音视频交互能力2024-05-14 18:06:23
- OpenAI 曾秘密测试 GPT-4o,力压群雄登顶聊天机器人竞技场排行榜2024-05-14 18:24:44
- “面对面通话”指日可待,谷歌、惠普明年将推动全息视频聊天技术商业化2024-05-13 22:56:53
- 雷鸟创新发布Pocket TV,携手谷歌加速消费级AR眼镜迈进“iPhone时刻”2024-05-13 19:47:01
- 加速布局海外市场,雷鸟创新与谷歌达成合作|钛媒体独家2024-05-13 16:01:56
- 科大讯飞:与华为、韩端机器人在人工智能领域始终保持良好的合作与交流2024-05-13 07:54:47
- 微软Xbox移动商店将上线,公开撬苹果、谷歌的墙脚?2024-05-12 08:32:22
- 谷歌云服务出现罕见重大配置错误事故,澳养老基金 UniSuper 账户被删2024-05-11 14:35:18
- 1晶科能源:向德国最大光伏项目交付超110万块Tiger Neo组件
- 2今晚国内油价迎“两连降”,加满一箱 92 号汽油将少花 9 元
- 3100%合成数据实现99.9%抓取成功率,具身智能公司「跨维智能」完成战略轮融资 | 36氪首发
- 4上海环境在内蒙古成立生物科技公司 注册资本4053万
- 5纵目科技在北京成立新公司 注册资本1000万
- 6广汽想靠智驾拯救它的“小baby”
- 7海波重科:签订合计8971.24万元日常经营重大合同
- 8消息称因 EQE 和 EQS 销量不佳,奔驰暂停研发大型豪华电动汽车平台
- 9时代出版:拟向国联证券出售所持民生证券7347.5万股股份
- 10初创企业 Cake 推出 Apple Watch 多彩保护壳:外形酷似 Rabbit R1,旨在替代手机