PONTE: Personalized Orchestration for Natural Language Trustworthy Explanations

📄 arXiv: 2603.06485v1 📥 PDF

作者: Vittoria Vineis, Matteo Silvestri, Lorenzo Antonelli, Filippo Betello, Gabriele Tolomei

分类: cs.CL, cs.AI

发布日期: 2026-03-06

备注: 15 pages, 2 figures

💡 一句话要点

PONTE：面向自然语言可信解释的个性化编排框架

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 可解释人工智能 个性化 自然语言生成 人机协作 闭环优化

📋 核心要点

  1. 现有XAI方法缺乏对用户个性化需求的考虑，导致解释效果不佳，难以满足不同背景用户的需求。
  2. PONTE框架通过闭环验证和适应过程实现个性化，利用低维偏好模型和偏好条件生成器生成自然语言解释。
  3. 实验表明，PONTE框架的验证-细化循环显著提高了XAI解释的完整性和风格对齐，并具有良好的用户满意度。

📝 摘要（中文）

可解释人工智能(XAI)旨在提高机器学习系统的透明度和可问责性，但大多数方法采用一刀切的模式，忽略了用户在专业知识、目标和认知需求方面的差异。虽然大型语言模型可以将技术解释转化为自然语言，但它们也带来了与忠实性和幻觉相关的挑战。为了应对这些挑战，我们提出了PONTE（Personalized Orchestration for Natural language Trustworthy Explanations），这是一个用于自适应和可靠的XAI叙述的人在环框架。PONTE将个性化建模为一个闭环验证和适应过程，而不是提示工程。它结合了：(i)一个捕捉风格要求的低维偏好模型；(ii)一个以结构化XAI工件为基础的偏好条件生成器；(iii)验证模块，用于强制执行数值忠实性、信息完整性和风格对齐，并可选择由检索支持的论证。用户反馈迭代地更新偏好状态，从而实现快速个性化。在医疗保健和金融领域的自动和人工评估表明，验证-细化循环显著提高了完整性和风格对齐，优于无验证的生成。人工研究进一步证实了预期偏好向量和感知风格之间的高度一致性、对生成随机性的鲁棒性以及始终积极的质量评估。

🔬 方法详解

问题定义：论文旨在解决现有可解释人工智能（XAI）方法缺乏个性化的问题。现有方法通常采用“一刀切”的策略，忽略了不同用户在专业知识、目标和认知需求上的差异，导致生成的解释难以被用户理解和信任。此外，直接使用大型语言模型（LLM）生成解释虽然方便，但容易出现忠实性问题（与原始数据不符）和幻觉（生成不真实的信息）。

核心思路：PONTE的核心思路是将个性化建模为一个闭环的验证和适应过程，而不是简单地进行提示工程。通过收集用户反馈，迭代地更新用户的偏好模型，并利用该模型指导自然语言解释的生成。同时，引入验证模块来确保生成的解释在数值上是忠实的，信息上是完整的，并且在风格上与用户的偏好相符。

技术框架：PONTE框架包含三个主要模块：(1) 偏好模型：使用低维向量表示用户的风格偏好。(2) 偏好条件生成器：基于结构化的XAI工件（例如，特征重要性）和用户的偏好向量，生成自然语言解释。(3) 验证模块：包含数值忠实性验证、信息完整性验证和风格对齐验证。如果验证失败，则对生成器进行细化，并可选择使用检索增强生成来提高解释的质量。整个过程是一个人机协作的闭环，用户反馈用于迭代更新偏好模型。

关键创新：PONTE的关键创新在于其闭环的个性化建模方法和验证-细化循环。与传统的提示工程方法相比，PONTE能够更有效地捕捉用户的个性化偏好，并生成更符合用户需求的解释。验证模块能够有效地减少LLM的幻觉问题，提高解释的可靠性。

关键设计：偏好模型使用低维向量表示，具体维度和取值范围未知。偏好条件生成器可能使用了某种条件生成模型，例如条件变分自编码器（CVAE）或条件生成对抗网络（CGAN），具体实现细节未知。验证模块的具体实现方式未知，可能使用了规则、统计检验或机器学习模型。损失函数的设计可能包括忠实性损失、完整性损失和风格损失，具体形式未知。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

论文在医疗保健和金融领域进行了实验，结果表明，PONTE框架的验证-细化循环显著提高了XAI解释的完整性和风格对齐，优于无验证的生成方法。人工研究证实了预期偏好向量和感知风格之间的高度一致性，以及对生成随机性的鲁棒性。用户对生成的解释给出了始终积极的质量评估，表明PONTE框架能够有效地满足用户的个性化需求。

🎯 应用场景

PONTE框架可应用于各种需要可解释人工智能的领域，例如医疗保健（解释疾病诊断结果）、金融（解释信用评分）和法律（解释判决结果）。通过提供个性化和可信的解释，PONTE可以帮助用户更好地理解和信任AI系统，从而促进AI技术的广泛应用。未来，该框架可以扩展到支持更多类型的解释方法和用户偏好。

📄 摘要（原文）

Explainable Artificial Intelligence (XAI) seeks to enhance the transparency and accountability of machine learning systems, yet most methods follow a one-size-fits-all paradigm that neglects user differences in expertise, goals, and cognitive needs. Although Large Language Models can translate technical explanations into natural language, they introduce challenges related to faithfulness and hallucinations. To address these challenges, we present PONTE (Personalized Orchestration for Natural language Trustworthy Explanations), a human-in-the-loop framework for adaptive and reliable XAI narratives. PONTE models personalization as a closed-loop validation and adaptation process rather than prompt engineering. It combines: (i) a low-dimensional preference model capturing stylistic requirements; (ii) a preference-conditioned generator grounded in structured XAI artifacts; and (iii) verification modules enforcing numerical faithfulness, informational completeness, and stylistic alignment, optionally supported by retrieval-grounded argumentation. User feedback iteratively updates the preference state, enabling quick personalization. Automatic and human evaluations across healthcare and finance domains show that the verification-refinement loop substantially improves completeness and stylistic alignment over validation-free generation. Human studies further confirm strong agreement between intended preference vectors and perceived style, robustness to generation stochasticity, and consistently positive quality assessments.