近日,微软开源了 AI 安全风险评估工具 Counterfit,该工具旨在帮助开发人员测试 AI 和机器学习系统的安全性。该公司表示,Counterfit 可以使组织进行评估,以确保其业务中使用的算法是可靠和可信赖的。当前,人工智能技术正越来越多地应用在医疗,金融和国防等受监管的行业中。但是,组织在采用风险缓解策略方面处于落后状态。一个微软的调查发现,部分企业用户表示,他们没有合适的资源,以确保他们的 AI 系统的稳定性和安全性。微软表示,Counterfit 诞生于该公司评估 AI 系统是否存在漏洞的需求,目的是主动保护 AI 服务。该工具起初是专门为目标 AI 模型编写的攻击脚本集,然后演变为自动化产品以对多个系统进行大规模基准测试。在底层,Counterfit 是一个命令行实用程序,为对抗性框架提供了一层,并预先加载了可用于逃避和窃取模型的算法。Counterfit 寻求使安全社区可以访问已发布的攻击,同时提供一个界面,通
微软开放 AI 系统工具 Counterfit 源代码
2021-05-06 09:04:28来源: IT之家
关注公众号
赞
你的鼓励是对作者的最大支持
- 东南亚之行即将开启,微软 CEO 纳德拉拟访问印尼、泰国、马来西亚2024-04-25 21:45:59
- 苹果连放4个开源“小模型”,跑分却不到微软Phi-3一半,不卷性能卷效率?2024-04-25 19:31:34
- 微软新专利:基于用户互动情况发送社交平台通知2024-04-25 16:08:49
- 微软 Win11 开始菜单广告将面向所有用户推出,可手动关闭2024-04-24 17:53:35
- 微软 Win10 推送 4 月可选更新,新增微软账号相关通知等2024-04-24 06:43:30
- 微软 Win11 推送 4 月可选更新:改进任务栏小组件图标等2024-04-24 06:53:08
- 微软、谷歌和 OpenAI 等巨头承诺制定生成式 AI 发展措施,妥善保护儿童健康2024-04-24 08:29:54
- 5 年 11 亿美元,可口可乐和微软签署新合作:迁移至 Azure、探索 AI 应用2024-04-24 09:02:14
- 微软解锁 Copilot 特性:字符上限最高调至 1.6 万、支持梳理 PDF 等文件内容2024-04-24 09:17:04
- 微软扩充 Edge 浏览器文本编辑功能:重写指定内容、优化手写体验等2024-04-24 10:24:02
- 1小米汽车 SU7 广告横幅占领 2024 北京车展大门
- 2Canalys:2024 年一季度华为重夺中国大陆智能手机市场第一
- 3特斯拉回击投资者对马斯克薪酬方案的反对意见
- 4用5G制造5G!新浪科技带你逛中兴通讯云网生态峰会
- 5凯西·伍德的ARK基金遭遇投资者大规模撤资
- 6全新电动 MINI COOPER 开启预售:3 款车型,21 万-27 万元
- 7北京:对采购自主可控GPU芯片开展智能算力服务的企业,按照投资额的一定比例给予支持
- 8魅蓝 OpenBlus 2 开放式蓝牙耳机发布:外观采用贝形设计,169 元
- 9KKR领投物业管理软件平台Guesty、生活方式品牌SIDANDA获近亿元融资、格力旗下洛阳机器人公司拟注销
- 10Prada集团一季度收益净额11.87亿欧元,亚太区零售销售同比增加16%