OpenAI 设立安全团队 Preparedness：评估 AI 风险、防止外界滥用

图片地址：https://img.ithome.com/newsuploadfiles/2023/10/8f7c9f2c-cb43-44b5-904d-6960f4e6416f.png?x-bce-process=image/format,f_auto

IT之家 10 月 27 日消息，OpenAI 今日宣布，正建立 Preparedness 团队来评估通用 AI（Artificial General Intelligence，AGI）可能造成的灾难性风险，该团队交由麻省理工学院（MIT）的可部署机器学习中心主任 Aleksander Madry 主导。▲ 图源 OpenAIOpenAI 表示，未来的 AI 模型虽然拥有造福全人类的潜力，但也可能带来严重的风险，因此需要建立一个强大的框架来监控、评估、预测及防范这些 AI 模型。据悉，OpenAI 设立了 Preparedness 团队，将针对各种 AI 模型进行能力评估及红队测试，以追踪、预测及防范各类别的灾难性风险。IT之家发现，OpenAI 宣称的相关风险，主要包含以下三大类：说服人类能力：AI 输出的内容是否会影响人类的行为生成不当内容：AI 是否会生成有关化学 / 生物 / 放射性 / 核（CBRN