Assistant, Parrot, or Colonizing Loudspeaker? ChatGPT Metaphors for Developing Critical AI Literacies

📄 arXiv: 2401.08711v1 📥 PDF

作者: Anuj Gupta, Yasser Atef, Anna Mills, Maha Bali

分类: cs.HC, cs.AI, cs.CY

发布日期: 2024-01-15

备注: This is a preprint (accepted version) of an article that has been accepted for publication at the journal Open Praxis: https://openpraxis.org/

DOI: 10.55982/openpraxis.16.1.631

💡 一句话要点

通过隐喻讨论促进批判性人工智能素养的提升

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 人工智能素养 隐喻分析 批判性教育 伦理问题 多元素养框架

📋 核心要点

  1. 当前对人工智能的理解往往缺乏深度，尤其是在伦理和公平性方面存在挑战。
  2. 本研究通过隐喻讨论，采用协作自我民族志的方法，促进对人工智能的批判性理解。
  3. 研究结果表明，隐喻反思能够有效提升对人工智能的理解，推动批判性人工智能素养的发展。

📝 摘要（中文）

本研究探讨了讨论人工智能隐喻如何帮助增强对塑造我们理解人工智能系统框架的意识，特别是针对大型语言模型（LLMs）如ChatGPT。鉴于教授“批判性人工智能素养”的迫切需求，隐喻讨论为探究和对话提供了机会，空间中充满了细微差别、趣味和批判。采用协作自我民族志的方法，我们分析了来自不同来源的隐喻，并根据七个问题进行个体反思，随后进行了讨论。我们分析了这些反思如何促进Selber的多元素养框架中划分的三种素养：功能性、批判性和修辞性。这使我们能够分析与人工智能相关的伦理、公平性和可及性问题。我们的研究结果强调了隐喻反思在促进对人工智能的细致理解中的作用，建议我们的协作自我民族志方法以及将人工智能隐喻绘制在拟人化和多元素养维度上的启发式模型，可能对教育工作者和研究人员在推进批判性人工智能素养方面具有实用价值。

🔬 方法详解

问题定义：本研究旨在解决对人工智能系统理解的不足，尤其是缺乏批判性素养和对伦理、公平性问题的关注。现有方法往往忽视了隐喻在塑造理解中的作用。

核心思路：通过分析和讨论不同来源的人工智能隐喻，研究团队希望揭示这些隐喻如何影响人们对人工智能的看法，进而促进批判性人工智能素养的提升。

技术框架：研究采用协作自我民族志的方法，首先分析隐喻，然后根据七个问题进行个体反思，最后进行集体讨论，形成对隐喻的综合理解。

关键创新：本研究的创新在于将隐喻分析与多元素养框架结合，提出了一种新的启发式模型，帮助教育者和研究人员更好地理解和教授人工智能相关知识。

关键设计：研究中设定了七个反思问题，围绕隐喻的拟人化程度及其对人工智能感知的影响进行深入探讨，确保反思过程的全面性和系统性。

📊 实验亮点

研究结果显示，隐喻反思显著提升了参与者对人工智能的理解，尤其是在伦理和公平性方面。通过协作讨论，参与者在批判性素养上有了明显的进步，表明该方法在教育中的有效性。

🎯 应用场景

该研究的潜在应用领域包括教育、人工智能伦理研究和政策制定。通过提升批判性人工智能素养，教育工作者可以更有效地引导学生理解人工智能的复杂性，促进更公平和可持续的技术发展。

📄 摘要（原文）

This study explores how discussing metaphors for AI can help build awareness of the frames that shape our understanding of AI systems, particularly large language models (LLMs) like ChatGPT. Given the pressing need to teach "critical AI literacy", discussion of metaphor provides an opportunity for inquiry and dialogue with space for nuance, playfulness, and critique. Using a collaborative autoethnographic methodology, we analyzed metaphors from a range of sources, and reflected on them individually according to seven questions, then met and discussed our interpretations. We then analyzed how our reflections contributed to the three kinds of literacies delineated in Selber's multiliteracies framework: functional, critical, and rhetorical. These allowed us to analyze questions of ethics, equity, and accessibility in relation to AI. We explored each metaphor along the dimension of whether or not it was promoting anthropomorphizing, and to what extent such metaphors imply that AI is sentient. Our findings highlight the role of metaphor reflection in fostering a nuanced understanding of AI, suggesting that our collaborative autoethnographic approach as well as the heuristic model of plotting AI metaphors on dimensions of anthropomorphism and multiliteracies, might be useful for educators and researchers in the pursuit of advancing critical AI literacy.