微比恩 > 信息聚合 > 数据越多,AI 决策模型越脆弱

数据越多,AI 决策模型越脆弱

2021-08-16 15:46:15来源: IT之家

数据是构建人工智能系统必需的关键基础设施。数据在很大程度上决定了 AI 系统的性能、公平性、稳健性、安全性和可扩展性。那么,用足够多的数据训练而来的 AI 系统,能够做出正确的决策么?今年 5 月份,medium 上的 Marianne Bellotti 博主发表了一篇名为“AI 正在解决错误问题的文章”。在文章中,作者提出一个观点:在更多数据(信息)加持下,人类都不一定做出“合适决策”,为什么要假设 AI 会表现更好呢?为了论证这个观点,博主写道:“在现实生活中,决策者往往为了节约成本而进行优化决策。但决策毕竟是根据结果来判断好坏的,在正确分析的基础上还需要一点运气。在结果出来之前,即使是在绝佳数据支持下最仔细、最彻底构建的策略也无法保证决策的绝对正确。”显然,这一观点的意思是:决策的过程与其说是对数据的客观分析,不如说是对风险和优先级的权衡。最后,基于上述观察,作者论证了这么一个观点:数据驱动的 AI 模型,在做决策时候,极

标签: AI