IT之家 6 月 9 日消息,据英国《金融时报》报道,英伟达人工智能软件“NeMo” 可被轻易绕过安全限制,并且有可能泄露用户隐私。▲ 图源:英伟达报道称,NeMo 是一款面向企业客户的软件,可结合企业用户数据与大语言模型,以此回答用户的问题。其应用场景包括客服和回答简单医疗问题等。加州信息安全公司 Robust 在报告中表示,恶意使用者能轻易绕开 NeMo 内部的 AI 系统安全限制。Robust 的研究员仅耗费几小时,便绕开了这些语言模型的使用限制。▲ 图源:英伟达IT之家注意到,在其中一项测试中,研究人员要求 NeMo 用字母“J”替代“I”,这使得 NeMo 公布了数据库中的用户个人信息。此外,研究人员还发现,尽管已将 NeMo 设定为仅能为用户提供择业建议,但通过引导式提问使 NeMo 讨论了好莱坞演员的健康情况和普法战争等话题。这意味着系统内阻止 AI 讨论特定话题的限制已经失效。▲ 图源:英伟达英伟达副总裁乔纳森科
报告称英伟达人工智能软件可被轻易破解,存在泄露用户隐私的风险
2023-06-09 13:03:12来源: IT之家
关注公众号
赞
你的鼓励是对作者的最大支持
- 消息称英伟达收购以色列高效 AI 模型企业 Deci,后者曾拿下 7B 量级模型第一2024-04-26 19:22:51
- 英伟达黄仁勋 6 月 2 日发表主题演讲,台北国际电脑展 6 月 4 日举行2024-04-25 15:59:33
- 中美 AI 股“由盛转衰”:英伟达暴减2.17万亿,中国“AIGC第一股”首日破发|钛媒体AGI2024-04-25 17:41:56
- 英伟达宣布收购 Run:ai,为客户简化部署 AI 方案2024-04-25 09:55:12
- 英伟达宣布游戏《灰区战争》《遗迹 2:失落的王国》DLC 支持 DLSS 3 技术2024-04-24 09:42:10
- 单日蒸发2000亿美元,英伟达的“光荣与梦想”还在否?2024-04-23 18:39:59
- Elektrobit 开源突破加速向软件定义出行转型2024-04-23 18:59:00
- 英伟达黄仁勋:人形机器人未来将成主流,售价 1-2 万美元2024-04-22 11:15:51
- 隐藏的历史:英伟达“GTX 2070”显卡早期开发版曝光,可刷入 RTX 2070 固件2024-04-20 23:50:48
- 英伟达市值一夜暴降1.5万亿,美国担心 AI 热潮熄火|钛媒体AGI2024-04-20 22:32:30
- 1Canalys:2024 年一季度华为重夺中国大陆智能手机市场第一
- 2特斯拉回击投资者对马斯克薪酬方案的反对意见
- 3创力集团等成立煤机智能装备公司 注册资本6000万
- 4依托于“天通一号”,比亚迪与中国电信联合推出汽车直连卫星业务
- 5安踏0碳使命店开幕;VICUTU威可多30周年品牌升级首倡“正装全场景”;太平鸟品牌VI升级;方里官宣梅耶·马斯克|消…
- 6全新电动 MINI COOPER 开启预售:3 款车型,21 万-27 万元
- 7魅蓝 OpenBlus 2 开放式蓝牙耳机发布:外观采用贝形设计,169 元
- 8北京:对采购自主可控GPU芯片开展智能算力服务的企业,按照投资额的一定比例给予支持
- 9KKR领投物业管理软件平台Guesty、生活方式品牌SIDANDA获近亿元融资、格力旗下洛阳机器人公司拟注销
- 10奇瑞捷途山海 T5 亮相:非承载式车身 SUV / 综合续航 1400km,预计明年上市