可检测 AI 模型中“版权内容”，Patronus 推出 CopyrightCatcher API

图片地址：https://img.ithome.com/newsuploadfiles/2024/3/f8a7aec7-0225-4153-9c88-1af0fcced3a4.png?x-bce-process=image/format,f_auto

IT之家 3 月 9 日消息，专门开发大语言模型（LLM）评估工具的 Patronus AI 日前发布了一款名为“CopyrightCatcher”的 API，可用来检测大语言模型的输出结果中是否含有侵权内容，目前相关工具 DEMO 已经放出，感兴趣的小伙伴可以点此访问下载。▲ 图源 Patronus AI 官方新闻稿Patronus AI 表示，市面上常见的大语言模型的训练数据中经常含有受到版权保护的内容，因此这些模型很容易输出相应版权内容，从而为部署相关模型的企业带来重大法律风险，因此他们推出了 CopyrightCatcher API，旨在解决相关侵权问题。据介绍，为了检查大语言模型输出数据是否含有侵权内容，Patronus AI 研究人员从 Goodreads 书籍平台中抽取了一批受到版权保护的文字样本对模型进行对抗性训练，并基于这些书籍建立