Does AI help humans make better decisions? A statistical evaluation framework for experimental and observational studies

📄 arXiv: 2403.12108v3 📥 PDF

作者: Eli Ben-Michael, D. James Greiner, Melody Huang, Kosuke Imai, Zhichao Jiang, Sooahn Shin

分类: cs.AI, econ.GN, stat.AP, stat.ME

发布日期: 2024-03-18 (更新: 2024-10-11)

💡 一句话要点

提出统计评估框架以验证AI对人类决策的影响

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 人工智能 决策支持 统计评估 风险评估 随机化试验 分类性能 人机协作

📋 核心要点

  1. 核心问题：现有研究未能明确AI在高风险决策中的实际效果，尤其是人类决策者与AI系统的比较。
  2. 方法要点：提出一种新的统计评估框架，通过随机化处理分配来比较人类单独、与AI共同及AI单独决策的表现。
  3. 实验或效果：研究表明，AI生成的风险评估建议未改善法官的决策准确性，且算法替代法官导致性能下降。

📝 摘要（中文）

人工智能（AI）及数据驱动算法在当今社会中已变得无处不在。然而，在许多高风险场景中，最终决策仍由人类做出。本文提出了一种新的方法论框架，以实证方式回答AI是否能帮助人类做出更好的决策。通过标准分类指标评估决策者的正确决策能力，研究设计包括单盲和无混淆的处理分配，随机提供AI生成的建议。我们比较了人类单独决策、人类与AI共同决策及AI单独决策的表现。研究发现，风险评估建议未能提高法官对现金保释的分类准确性，且用算法替代人类法官会导致更差的分类性能。

🔬 方法详解

问题定义：本文旨在解决AI是否能帮助人类做出更好决策的具体问题。现有方法缺乏对AI与人类决策效果的系统比较，尤其是在高风险场景下的应用。

核心思路：论文提出了一种新的统计评估框架，基于随机化处理分配来评估AI建议对人类决策的影响，旨在减少假设前提的限制。

技术框架：整体架构包括三个主要模块：1) 随机化处理分配，确保AI建议的无偏性；2) 决策性能评估，使用标准分类指标；3) 结果比较，分析三种决策系统的表现差异。

关键创新：最重要的技术创新在于引入了一个系统化的比较框架，能够在不同决策系统之间进行有效的性能评估，尤其是将AI单独决策与人类决策进行对比。

关键设计：关键设计包括单盲处理分配，确保参与者对AI建议的随机性没有偏见，以及使用标准分类指标来量化决策准确性。

📊 实验亮点

实验结果显示，AI生成的风险评估建议未能提高法官对现金保释的分类准确性，且用算法替代法官的决策表现更差，表明在某些情况下AI可能并未提供预期的决策支持。

🎯 应用场景

该研究的潜在应用领域包括法律、医疗和金融等高风险决策场景，能够为决策者提供关于AI建议有效性的实证依据，进而优化决策流程。未来可能影响AI在这些领域的应用策略和政策制定。

📄 摘要（原文）

The use of Artificial Intelligence (AI), or more generally data-driven algorithms, has become ubiquitous in today's society. Yet, in many cases and especially when stakes are high, humans still make final decisions. The critical question, therefore, is whether AI helps humans make better decisions compared to a human-alone or AI-alone system. We introduce a new methodological framework to empirically answer this question with a minimal set of assumptions. We measure a decision maker's ability to make correct decisions using standard classification metrics based on the baseline potential outcome. We consider a single-blinded and unconfounded treatment assignment, where the provision of AI-generated recommendations is assumed to be randomized across cases with humans making final decisions. Under this study design, we show how to compare the performance of three alternative decision-making systems--human-alone, human-with-AI, and AI-alone. Importantly, the AI-alone system includes any individualized treatment assignment, including those that are not used in the original study. We also show when AI recommendations should be provided to a human-decision maker, and when one should follow such recommendations. We apply the proposed methodology to our own randomized controlled trial evaluating a pretrial risk assessment instrument. We find that the risk assessment recommendations do not improve the classification accuracy of a judge's decision to impose cash bail. Furthermore, we find that replacing a human judge with algorithms--the risk assessment score and a large language model in particular--leads to a worse classification performance.