微比恩 > 信息聚合 > 博士意外发现秘密:DALL-E 2 自创语言,人看不懂但能生成特定图像,可能会被用来搞事!

博士意外发现秘密:DALL-E 2 自创语言,人看不懂但能生成特定图像,可能会被用来搞事!

2022-06-01 14:10:04来源: IT之家

DALL・E 2,这个 AI 竟然自己搞了一套秘密语言。例如这两个非常奇怪的词组:Apoploe vesrreaitais(下文简称 A)Contarra ccetnxniams luryca tanniounons(下文简称 C)(翻译软件都会崩溃,可以去试试)但到了 DALL・E 2 这里,画风却截然不同。在它看来,A 就是“鸟类”的意思,而 C 则是“害虫”之意。于是乎,如果给 DALL・E 2 喂上一句:A eat C,那么它的打开方式就会这样:清一色产出的图片,都是鸟吃害虫相关。而且你要是跟 DALL・E 2 说,生成“两只鲸鱼讨论食物,带字幕”,结果会是这样:图里的“Wa ch zod rea”,在 DALL・E 2 的词库里竟然是“食物”的意思!此事一经曝光,瞬间引发了众多网友的热议。甚至还有人提出,有了这些秘密语言,可以绕开 DALL・E 2 的“违禁词过滤器”,从而生成一些有争议的图像了。(搞事情!)所以,关于

关注公众号