OpenAI 正在组建新团队，以防范 AI 相关“灾难性”风险

图片地址：https://img.ithome.com/newsuploadfiles/2023/10/161d8921-87d7-4288-93e9-2abb3cf7bdc4.jpg?x-bce-process=image/format,f_auto

IT之家 10 月 27 日消息，OpenAI 当地时间周四宣布，公司正在组建一个新团队，以降低与 AI 相关的“灾难性风险”，将对 AI 可能引发的重大问题进行跟踪、评估、预测和保护。OpenAI 称，“我们深信前沿 AI 模型的能力将超过目前最先进的现有模型，并可能造福全人类，但它们也带来了越来越严重的风险。”该团队将努力减轻核威胁、生物、化学和放射性威胁等一系列 AI 可能引发的重大风险，以及 AI“自我复制”等行为带来的潜在风险。图源 PexelsOpenAI 表示，公司需要确保拥有高能力 AI 系统安全所需的理解、基础设施。该团队将由原麻省理工学院可部署机器学习中心主任 Aleksander Madry 领导，并将制定、维护一项“风险知情开发政策”，用以概述公司在评估和监控 AI 大模型所做的工作。IT之家此前报道，非营利组织 AI 安全中心于上月底发表简短声明：“将减轻人工智能带来的灭绝风险，放在和流行病、核战等社会