4 月 23 日消息,ChatGPT 聊天机器人可以根据用户的输入生成各种各样的文本,包括代码。但是,加拿大魁北克大学的四位研究人员发现,ChatGPT 生成的代码往往存在严重的安全问题,而且它不会主动提醒用户这些问题,只有在用户询问时才会承认自己的错误。研究人员在一篇论文中介绍了他们的发现,查看该论文发现,他们让 ChatGPT 生成了 21 个程序和脚本,涉及 C、C++、Python 和 Java 等语言。这些程序和脚本都是为了展示一些特定的安全漏洞,比如内存损坏、拒绝服务、反序列化和加密实现等方面的漏洞。结果显示,ChatGPT 在第一次尝试时生成的 21 个程序中只有 5 个是安全的。在进一步提示纠正其错误步骤后,该大型语言模型设法生成了 7 个更安全的应用程序,不过这只是与正在评估的特定漏洞有关的“安全”,并不是说最终的代码不存在任何其他可利用的漏洞。研究人员指出,ChatGPT 的部分问题是由于它没有考虑敌对的代码
研究人员发现ChatGPT生成的代码大部分不安全 但它不会主动告诉你
2023-04-23 09:00:28来源: TechWeb
关注公众号
赞
你的鼓励是对作者的最大支持
- 没安全感的人,容易累死自己?2024-05-09 13:00:00
- SGS为复旦微电子集团颁发ISO 26262功能安全流程认证证书2024-05-09 11:49:00
- OpenAI正面对决谷歌?ChatGPT搜索引擎被曝本周即将发布!2024-05-09 04:45:55
- 安全阀出现故障,波音Starliner首次载人飞行测试再次推迟2024-05-07 20:33:05
- 智界 S7 迎 OTA 升级:ADS 主动安全能力提升、新增哨兵模式2024-05-07 17:15:32
- 微软 Graph API 遭黑客滥用,用于逃避安全软件监测2024-05-07 18:37:40
- OpenAI 高管:今天的 ChatGPT 将在一年内显得“糟糕得可笑”2024-05-07 20:13:11
- Fortinet发布Q1财报:抢占ASE、安全运营和安全组网三大关键市场丨看财报2024-05-07 15:06:00
- 给不安全的电池戴上“紧箍咒”!电动自行车用锂电池强制性国标发布2024-05-07 09:21:58
- 消息称苹果将用自研 AI 模型 Ajax 优化 iOS 18,不会推出“ChatGPT 类聊天机器人”2024-05-06 14:48:09
- 12024 款华为 MateBook 14 笔记本海外发布:2.8K OLED 触控屏、支持 M-Pencil 手写笔
- 2科技昨夜今晨 0508:特斯拉或启动新一轮裁员;淘宝网页版宣布完成重要升级;8999 元起,2024 款苹果 iPad …
- 3提供工业AI生成式设计软件,「设序科技」完成近亿元A+轮融资|融资首发
- 4“瑞初医药”完成上亿元Pre-A轮融资
- 52024 款苹果 iPad Pro / Air 电池容量调整,但续航时间仍为 10 小时
- 6“中腾微网”完成近亿元B轮融资
- 7爱玛科技在江苏成立新能源科技公司 注册资本1亿
- 8不响不辍|第18届中国投资年会·年度峰会在沪召开
- 9【一图知】一图立懂苹果“放飞吧”发布会 2024 款 iPad Pro / Air 平板电脑
- 10宁德时代子公司等成立品牌管理公司 注册资本5000万