TVS Sidekick: Challenges and Practical Insights from Deploying Large Language Models in the Enterprise
作者: Paula Reyero Lobo, Kevin Johnson, Bill Buchanan, Matthew Shardlow, Ashley Williams, Samuel Attwood
分类: cs.AI
发布日期: 2025-09-30
备注: Accepted at EthicalLLMs@RANLP2025
💡 一句话要点
TVS Sidekick：企业部署大语言模型的挑战与实践洞见
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大语言模型 企业部署 AI治理 伦理挑战 供应链管理
📋 核心要点
- 企业在部署AI时面临伦理、监管和社会技术等多重挑战，缺乏统一的AI治理框架和基础设施是主要障碍。
- TVS Sidekick项目旨在构建一个基于大语言模型的AI助手，解决企业内部流程效率问题，并探索AI治理的实践方法。
- 该论文分享了TVS供应链解决方案公司在实际部署AI助手过程中遇到的问题、解决方案和经验教训，为其他企业提供参考。
📝 摘要（中文）
越来越多的企业正在采用人工智能（AI）来提高内部流程的竞争力和效率。为了应对公众的担忧和对人工智能伦理和负责任使用的新法规，实施人工智能治理框架可能有助于将人工智能整合到组织中，并减轻相关风险。然而，快速的技术进步和缺乏共享的伦理人工智能基础设施，为企业实际采用这些框架制造了障碍。本文介绍了TVS供应链解决方案公司的一个真实的人工智能应用案例，报告了开发基于大型语言模型的人工智能助手，以及在企业使用中部署所面临的伦理、监管和社会技术挑战的经验。
🔬 方法详解
问题定义：企业希望利用AI提升内部流程效率，但面临伦理、监管和社会技术方面的挑战。现有方法缺乏对这些挑战的有效应对，导致AI治理框架难以落地。具体来说，如何确保AI应用的公平性、透明度和可解释性，以及如何符合相关法规，是企业需要解决的关键问题。
核心思路：论文的核心思路是通过实际部署一个基于大语言模型的AI助手，来探索和解决企业在AI治理方面面临的挑战。通过实践，可以更深入地了解这些挑战的本质，并找到更有效的解决方案。这种实践驱动的方法有助于弥合理论与实际之间的差距。
技术框架：TVS Sidekick项目的整体架构包含数据收集、模型训练、部署和监控等多个阶段。数据收集阶段涉及从企业内部系统收集相关数据，用于训练大语言模型。模型训练阶段使用先进的自然语言处理技术，对模型进行优化，使其能够理解和回答用户的问题。部署阶段将训练好的模型部署到企业内部系统，供员工使用。监控阶段则对模型的性能和行为进行持续监控，以确保其符合伦理和监管要求。
关键创新：该论文的关键创新在于其以实践为导向的研究方法。不同于以往侧重理论研究的AI治理方法，该论文通过实际部署AI助手，来探索和解决企业在AI治理方面面临的挑战。这种方法能够更有效地发现问题，并找到更具可行性的解决方案。
关键设计：论文中没有详细描述具体的参数设置、损失函数或网络结构等技术细节。但是，可以推断，在模型训练阶段，可能使用了诸如Transformer等先进的神经网络架构，并采用了诸如交叉熵损失函数等常用的损失函数。此外，为了确保模型的公平性和可解释性，可能还采用了诸如对抗训练等技术。
📊 实验亮点
该论文的主要亮点在于其真实的企业部署案例。通过TVS供应链解决方案公司的实际应用，展示了大型语言模型在企业环境中的潜力和挑战。虽然论文没有提供具体的性能数据，但它强调了在实际部署中遇到的伦理、监管和社会技术问题，这些问题对于成功实施AI至关重要。
🎯 应用场景
该研究的潜在应用领域包括企业内部知识管理、客户服务、流程自动化等。通过构建基于大语言模型的AI助手，可以帮助企业员工更高效地获取信息、解决问题，并提高工作效率。该研究的实际价值在于为企业部署AI提供了一个可借鉴的实践案例，并为AI治理框架的落地提供了有益的启示。未来，该研究可以进一步扩展到其他行业和领域，为更多企业提供AI治理方面的支持。
📄 摘要（原文）
Many enterprises are increasingly adopting Artificial Intelligence (AI) to make internal processes more competitive and efficient. In response to public concern and new regulations for the ethical and responsible use of AI, implementing AI governance frameworks could help to integrate AI within organisations and mitigate associated risks. However, the rapid technological advances and lack of shared ethical AI infrastructures creates barriers to their practical adoption in businesses. This paper presents a real-world AI application at TVS Supply Chain Solutions, reporting on the experience developing an AI assistant underpinned by large language models and the ethical, regulatory, and sociotechnical challenges in deployment for enterprise use.