数据越多，AI 决策模型越脆弱

图片地址：https://img.ithome.com/newsuploadfiles/2021/8/158b9df6-f249-4223-b789-943c0947bdf2.jpg

数据是构建人工智能系统必需的关键基础设施。数据在很大程度上决定了 AI 系统的性能、公平性、稳健性、安全性和可扩展性。那么，用足够多的数据训练而来的 AI 系统，能够做出正确的决策么？今年 5 月份，medium 上的 Marianne Bellotti 博主发表了一篇名为“AI 正在解决错误问题的文章”。在文章中，作者提出一个观点：在更多数据（信息）加持下，人类都不一定做出“合适决策”，为什么要假设 AI 会表现更好呢？为了论证这个观点，博主写道：“在现实生活中，决策者往往为了节约成本而进行优化决策。但决策毕竟是根据结果来判断好坏的，在正确分析的基础上还需要一点运气。在结果出来之前，即使是在绝佳数据支持下最仔细、最彻底构建的策略也无法保证决策的绝对正确。”显然，这一观点的意思是：决策的过程与其说是对数据的客观分析，不如说是对风险和优先级的权衡。最后，基于上述观察，作者论证了这么一个观点：数据驱动的 AI 模型，在做决策时候，极