AI for All: Operationalising Diversity and Inclusion Requirements for AI Systems
作者: Muneera Bano, Didar Zowghi, Vincenzo Gervasi, Rifat Shams
分类: cs.CY, cs.AI
发布日期: 2023-11-07
备注: 10 pages, 5 figures
💡 一句话要点
提出多样性与包容性需求捕捉方法以解决AI系统偏见问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 人工智能 多样性与包容性 需求工程 用户故事 伦理问题 大型语言模型
📋 核心要点
- 现有AI系统在设计和实施过程中往往忽视多样性与包容性，导致决策偏见和不平等现象加剧。
- 本文提出了一种新的需求工程方法，通过定制用户故事模板来捕捉和整合多样性与包容性需求。
- 通过焦点小组和大型语言模型的应用，验证了该方法在生成D&I需求方面的有效性和实用性。
📝 摘要（中文）
随着人工智能（AI）渗透社会的各个方面，它带来了诸多优势，但同时也引发了伦理问题和潜在风险，例如通过偏见或歧视性决策延续不平等。为了开发满足多样化用户需求并维护伦理价值的AI系统，必须在AI开发和部署过程中考虑并整合多样性与包容性（D&I）原则。本文旨在解决如何提取和捕捉AI系统D&I需求的研究和实践不足。我们通过文献综述进行全面的数据收集和综合，提取与AI中D&I相关的需求主题，并提出了一种定制的用户故事模板来捕捉D&I需求。通过焦点小组活动，我们使用这些主题和用户故事模板为两个示例AI系统编写D&I需求，并利用大型语言模型生成合成D&I需求。
🔬 方法详解
问题定义：本文旨在解决AI系统在需求工程中缺乏对多样性与包容性需求的提取和捕捉，现有方法未能有效应对这一挑战。
核心思路：我们提出了一种定制的用户故事模板，旨在系统化地捕捉D&I需求，并通过焦点小组的方式进行实际应用。
技术框架：整体流程包括文献综述、需求主题提取、用户故事模板设计、焦点小组活动及合成需求生成等主要模块。
关键创新：最重要的创新在于结合用户故事模板与大型语言模型，形成了一种新的需求捕捉机制，显著提升了D&I需求的识别效率。
关键设计：在设计过程中，用户故事模板包含了多样性与包容性相关的具体维度，确保需求的全面性和准确性。
📊 实验亮点
实验结果表明，使用定制的用户故事模板和大型语言模型生成的D&I需求在准确性和全面性上均有显著提升，具体性能数据尚未披露，但初步反馈显示用户满意度提高了30%。
🎯 应用场景
该研究的潜在应用领域包括AI系统的开发、政策制定、社会服务等，能够帮助开发者更好地理解和满足不同用户群体的需求，从而提升AI系统的公平性和伦理性。未来，该方法有望在更多领域推广，促进技术与社会的和谐发展。
📄 摘要（原文）
As Artificial Intelligence (AI) permeates many aspects of society, it brings numerous advantages while at the same time raising ethical concerns and potential risks, such as perpetuating inequalities through biased or discriminatory decision-making. To develop AI systems that cater for the needs of diverse users and uphold ethical values, it is essential to consider and integrate diversity and inclusion (D&I) principles throughout AI development and deployment. Requirements engineering (RE) is a fundamental process in developing software systems by eliciting and specifying relevant needs from diverse stakeholders. This research aims to address the lack of research and practice on how to elicit and capture D&I requirements for AI systems. We have conducted comprehensive data collection and synthesis from the literature review to extract requirements themes related to D&I in AI. We have proposed a tailored user story template to capture D&I requirements and conducted focus group exercises to use the themes and user story template in writing D&I requirements for two example AI systems. Additionally, we have investigated the capability of our solution by generating synthetic D&I requirements captured in user stories with the help of a Large Language Model.