IT之家 2 月 24 日消息,微软近日发布了开源自动化框架 PyRIT,这是一款 Python 风险识别工具包,主要帮助安全专家和机器学习工程师识别生成式 AI 的风险,阻止他们的人工智能系统失控。微软的 AI Red Team 已经使用该工具,检查包括 Copilot 在内生成式人工智能系统中风险。微软强调通过向公众提供内部工具,以及分享 AI Red Team 方面的其他投资成果,其目的是推动人工智能安全民主化。IT之家注:Red Team 是在军事演习、网络安全演习等领域中扮演敌人或竞争对手角色的群体,扮演己方角色的则称作蓝队。Red Team 通常定义为敌方部队,通过攻击网络来提高产品安全性。微软 AI Red Team 专门成立了一个跨学科的安全专家小组,管理复杂的攻击演习。PyRIT 框架的工作原理如下:PyRit Agent 向目标 Gen AI 系统发送恶意提示词;当它收到 Gen AI 系统的回应时,就会向
微软发布 PyRIT 工具,帮专家和工程师识别生成式 AI 模型风险
2024-02-24 07:54:34来源: IT之家
关注公众号
赞
你的鼓励是对作者的最大支持
- 豪掷 40 亿欧元,微软在法国最大投资官宣落地 AI 领域2024-05-13 17:20:33
- 微软 Edge 浏览器将迎来“智能打印”功能:让打印告别烦人广告和杂乱内容2024-05-13 18:16:07
- 【生态环境周观察】中美就气候问题进行会谈;微软签署史上最大绿色能源协议;隆基刷新单结晶硅光伏电池转换效率世界纪录2024-05-13 14:26:35
- 前暴雪总裁 Ybarra 喊话微软 Xbox:应将重心转移到制作优秀游戏上2024-05-12 15:22:41
- 微软前高级公关经理:XGP 可持续发展的“唯一机会”是纳入《GTA 6》等大作2024-05-12 18:31:35
- 微软因 Cortana 专利侵权被判赔偿 2.42 亿美元2024-05-12 19:04:49
- 微软Xbox移动商店将上线,公开撬苹果、谷歌的墙脚?2024-05-12 08:32:22
- 微软打破 Decoder-Only 架构:大幅降低 GPU 内存需求2024-05-11 23:28:49
- 微软向 Rust 基金会捐赠 100 万美元:投资关键项目、减轻工程师工作压力2024-05-12 11:41:21
- 微软渡过难关:员工加薪解冻、高管部分薪资和安全挂钩2024-05-11 15:04:26
- 1每天可处理 5600 吨原油,亚洲首艘圆筒型浮式生产储卸油装置“海葵一号”将服役我国首个深水油田
- 2瑞丰达有20位投资经理?公司内部资料显示仅3位
- 3江铃福特新款领睿 / 领裕完成工信部申报,新增插混动力车型
- 4假借“维修宽带”名义上门安装电诈专用“黑盒子”,一犯罪嫌疑人被抓
- 5最新 AI GeoSpy 看一眼照片就定位你在哪里,精确到经纬度
- 6方大炭素资本局:账上现金超60亿,盈利三年未分红,却抛40亿购买理财产品
- 7端到端将重塑智驾?获10亿美金融资,解密英国AI独角兽Wayve
- 8无醇啤酒市场价值超130亿美元,饮料巨头纷纷加码
- 9助力上市公司价值管理提升,大湾区上市公司ESG-V投资价值与市值管理研讨会在深圳举行
- 10移动电信选购需注意,2024 款 iPad Pro / Air 平板电脑国行仅支持中国联通 eSIM 蜂窝网络