幻觉即智能：AI落地里顺势与逆势的分界线

图片地址：https://images.tmtpost.com/uploads/images/2023/09/933f9afb7118b28474f9e5dcd2a9a835_1695265070.png

图片来源@视觉中国文 | 李智勇大模型是有幻觉的，其表现很多样比如与事实冲突，其成因也很多比如缺相关知识或者对齐错误，不清楚的点就更多。但和应用相关的最为关键的点还不是这些，而是：看起来幻觉是个短期搞不定的事，即使是OpenAI。这就要求在落地的时候把它当前条件和不变量来思考，一旦把它做前条件和不变量，那就会发现像对人类一样，幻觉也并不全是坏处。顺势的和逆势的我们把幻觉对产品有帮助还是对产品有害作为纵轴，再加上出问题的责任作横轴，形成一个简单的坐标系，然后再把各种人工智能体放在在这个坐标系上面，那大概是下面这样：也许对不同人工智能体所处的位置会有争议，但几个极值应该问题不大。对于元宇宙而言本来就是高级游戏，那人物行为的出格反倒是会激发游戏叙事的多样性，成为丰富世界内容的一部分养料；对于问诊就很麻烦，如果在既有医疗知识框架外发挥，然后病人病情变严重了，那就不单有害，后果还很严重。现实空间和问诊类似的其实更多，包括客服、税务咨询等。