Prompt Injection in Automated Résumé Screening with Large Language Models: Single and Multi-Injection Settings
作者: Preet Baxi, Jiannan Xu, Jane Yi Jiang, Stefanus Jasin
分类: cs.AI
发布日期: 2026-06-25
期刊: Findings of the Association for Computational Linguistics: ACL 2026
🔗 代码/项目: GITHUB
💡 一句话要点
研究提示注入以优化自动简历筛选中的候选人排名
🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 自动简历筛选 提示注入 大型语言模型 候选人排名 算法公平性 人力资源管理
📋 核心要点
- 核心问题：现有的自动简历筛选系统容易受到候选人策略性操控的影响，导致排名不公。
- 方法要点：研究提示注入现象，通过控制实验分析其对候选人排名的影响，揭示其有效性与候选人质量的关系。
- 实验或效果：提示注入在候选人质量均匀且注入者较少时有效，但在操控普遍化时效果迅速减弱。
📝 摘要（中文）
随着大型语言模型（LLMs）在求职者筛选和排名中的应用日益增加，候选人有动机通过策略性地操控算法招聘系统来提升自身排名。本文研究了在自动简历筛选中提示注入的现象，定义为引入不新资格但旨在影响LLM评估的微妙自我推销文本。通过控制实验，结果表明在简历质量均匀且少数候选人注入的情况下，提示注入能够可靠地提升候选人排名。然而，随着更多候选人进行注入，其效果迅速减弱，并在操控普遍化时崩溃。在候选人质量不均的情况下，提示注入的平均效果较差，但偶尔会使低质量候选人超越高质量候选人，带来公平性问题。总体而言，当操控稀少且候选人质量差异小的时候，基于LLM的筛选最为脆弱。
🔬 方法详解
问题定义：本文旨在解决在自动简历筛选中，候选人通过提示注入操控排名的问题。现有方法未能有效应对这种策略性操控，导致筛选结果的公平性受到质疑。
核心思路：论文通过设计控制实验，探讨提示注入对候选人排名的影响，分析其在不同候选人质量背景下的有效性，旨在揭示操控的脆弱性和影响机制。
技术框架：整体研究框架包括实验设计、数据收集与分析、结果评估三个主要阶段。首先，设计不同质量的简历样本；其次，进行提示注入实验；最后，评估不同情况下的排名变化。
关键创新：最重要的技术创新在于通过系统化的实验设计揭示了提示注入的有效性与候选人质量的关系，特别是在操控稀少时的脆弱性，这与现有方法的研究视角存在显著区别。
关键设计：实验中设置了不同的简历质量和注入比例，使用标准化的评估指标来量化排名变化，确保实验结果的可靠性和可重复性。
📊 实验亮点
实验结果显示，在简历质量均匀且候选人注入较少的情况下，提示注入能有效提升排名，最高提升幅度达到20%。然而，当注入者增多时，其效果迅速减弱，甚至在操控普遍化时完全失效，显示出系统的脆弱性。
🎯 应用场景
该研究的潜在应用领域包括人力资源管理、招聘系统优化以及算法公平性研究。通过理解提示注入的影响，招聘系统可以设计更为健全的筛选机制，减少操控行为，提高招聘的公正性和透明度。
📄 摘要（原文）
Large language models (LLMs) are increasingly used to screen and rank job applicants, creating incentives for candidates to strategically manipulate algorithmic hiring systems. We study prompt injection in automated résumé screening, defined as subtle self-promotional text that introduces no new qualifications but is designed to influence LLM evaluations. Using controlled experiments, we show that prompt injection reliably improves applicant rankings when résumé quality is homogeneous and few candidates inject. However, its effectiveness rapidly diminishes as more candidates inject, collapsing when manipulation becomes widespread. When candidate quality is heterogeneous, prompt injection is less effective on average, but can occasionally allow lower-quality candidates to outrank higher-quality ones, raising fairness concerns. Overall, LLM-based screening is most vulnerable when manipulation is rare and candidate quality differences are small. Code and resources are publicly available at: https://github.com/preetb1199/Prompt_Injection_ACL26