CRAFT: Constrained Reward via Attention Fine-Tuning for Subject Personalization without Composed Targets

📄 arXiv: 2608.14403v1 📥 PDF

作者: Jihun Park, Kyoungmin Lee, Jongmin Gim, Hyeonseo Jo, Jaeyeul Kim, Han Zou, Zhenpeng Zhan, Yan Zhang, Sunghoon Im

分类: cs.CV

发布日期: 2026-08-14

备注: 20 pages, 8 figures, ACM SIGGRAPH Asia 2026

🔗 代码/项目: PROJECT_PAGE

💡 一句话要点

提出CRAFT以解决图像个性化中的目标合成问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 图像个性化 多模态扩散 注意力机制 深度学习 视觉内容生成

📋 核心要点

  1. 现有的个性化图像生成方法依赖于大量的配对示例，导致数据准备成本高且效率低下。
  2. CRAFT通过单步微调预训练的多模态扩散变换器，使用仅包含参考图像的数据，简化了个性化过程。
  3. CRAFT在XVerseBench上实现了最先进的性能，且所需的参考样本数量远低于传统方法，展示了显著的效率提升。

📝 摘要（中文）

基于主题的图像个性化是现代视觉内容创作的基础能力，当前主要依赖于对成千上万的配对（参考，合成目标）示例进行微调的方法。此类方法需要复杂的多阶段策划流程，且与特定的目标合成器紧密耦合。本文提出CRAFT（通过注意力微调的约束奖励），通过LoRA适配器对预训练的参考感知多模态扩散变换器进行单步微调，使用仅包含1万张参考图像和主题掩码的紧凑数据构建，无需合成目标监督。CRAFT实现了“看哪里”的原则，通过注意力级奖励将噪声和短语标记的注意力与正确的参考主题对齐，最终在FLUX.2-klein-9B上实现了XVerseBench的最先进性能，且仅使用1万张参考样本，而之前的方法需要15万到200万的合成目标对。

🔬 方法详解

问题定义：本文旨在解决主题驱动的图像个性化中，现有方法对合成目标的依赖及其高昂的策划成本。现有方法需要大量的配对示例，且每个合成目标的生成过程复杂且耗时。

核心思路：CRAFT的核心思路是通过注意力微调来实现个性化，而不是依赖于合成目标。通过使用LoRA适配器对预训练的参考感知多模态扩散变换器进行微调，CRAFT能够仅使用参考图像和主题掩码进行训练。

技术框架：CRAFT的整体架构包括数据准备、LoRA适配器微调和注意力奖励机制。数据准备阶段仅需构建参考图像和主题掩码，微调阶段通过LoRA适配器对模型进行调整，最后通过注意力奖励机制确保生成图像与参考主题一致。

关键创新：CRAFT的主要创新在于其“看哪里”原则，通过注意力级奖励将注意力与参考主题对齐，从而实现了无合成目标的个性化生成。这一方法显著降低了对配对示例的需求。

关键设计：CRAFT使用了紧凑的数据构建方式，仅需1万张参考图像和主题掩码，且在损失函数设计上，强调了像素级身份奖励与学习的注意力路由的一致性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

CRAFT在XVerseBench上实现了最先进的性能，使用仅1万张参考样本，相较于传统方法所需的15万到200万的合成目标对，展示了显著的效率提升。这一成果证明了CRAFT在图像个性化领域的有效性和创新性。

🎯 应用场景

CRAFT的研究成果在多个领域具有广泛的应用潜力，包括个性化广告、虚拟现实中的角色生成以及社交媒体内容创作等。通过降低数据准备成本，CRAFT能够加速个性化图像生成的过程，提升用户体验，未来可能推动更多基于视觉内容的创新应用。

📄 摘要（原文）

Subject-driven image personalization---generating new images that preserve the identity of one or several reference subjects in novel scenes---is a foundational capability for modern visual content creation. It is currently dominated by generalized methods that fine-tune a pretrained multimodal diffusion transformer (MMDiT) on hundreds of thousands to millions of paired \emph{(reference, composed-target)} examples, where each composed target is a synthesized image of the subject in a novel scene. Producing such targets demands a costly multi-stage curation pipeline---LLM-based prompt generation, T2I-based composed-target synthesis, reference-subject extraction, VLM-based quality filtering, and correspondence labeling---and tightly couples each method to a particular target synthesizer and curation choice. We introduce \emph{CRAFT} (Constrained Reward via Attention Fine-Tuning), a single-step ReFL framework that fine-tunes a pre-trained \emph{reference-aware} MMDiT via LoRA adapters using a compact reference-only data construction---$10$K reference images and subject masks, with no composed-target supervision. CRAFT realizes a \emph{Where to look} principle: attention-level rewards align noise- and phrase-token attention with the correct reference subject, and the resulting per-subject attention masks gate a pixel-level identity reward to keep image-space supervision consistent with the learned attention routing. Applied to FLUX.2-klein-9B, CRAFT achieves state-of-the-art performance on XVerseBench \rev{while using no composed-target supervision---only $10$K reference-only samples, whereas prior generalized methods require $150$K to over $2$M composed-target pairs}. The same recipe transfers to other reference-aware backbones, consistently improving performance. Project page: https://jihun999.github.io/projects/CRAFT/.