目标注意力

定义

目标注意力是一类以显式目标信号来引导特征加权的神经网络注意力机制。它通常把目标实体的编码特征（如商品嵌入、物体模板或查询向量）作为查询，把待筛选的特征集合作为键和值，从而针对每一个目标重新计算注意力分布^[1]。

与自注意力不同，自注意力的查询、键、值都来自同一个序列，建模的是序列内部的相互依赖；目标注意力的查询来自序列外部，是一次由目标驱动的单向检索，因此也被归入跨域注意力的范畴^[2]。

原理

目标注意力的核心是把注意力计算写成查询、键、值的加权形式，并让查询至少部分由目标表征构成：$\mathrm{Attention}(Q,K,V)=\mathrm{softmax}\left(\frac{QK^{T}}{\sqrt{d_k}}\right)V$^[1]。

在推荐场景中，目标商品作为查询，用户历史行为序列作为键和值，模型先计算目标商品与每条历史行为的注意力分数，再按分数对历史行为的嵌入做加权求和，得到随目标变化的用户兴趣向量。这一过程让同一用户面对不同候选商品时得到不同的兴趣表示^[3]。

在视觉场景中，目标注意力常以稀疏采样的方式实现：模型围绕参考点只采样少量位置并计算权重，或者用一个可学习的嵌入矩阵替代键矩阵，把令牌之间的相对关系转换为令牌与标准参考点之间的绝对关系，以抑制背景令牌的干扰^[4]。

发展历程

注意力机制最初在神经机器翻译领域被提出，用于给句子中的每个词分配不同的重要性权重。研究者随后发现，这类机制无法直接满足候选目标不断变化的场景，于是引入了随目标变化的注意力计算方式^[3]。

2018 年，阿里巴巴的研究团队在 KDD 会议上提出深度兴趣网络（DIN），设计了局部激活单元，用目标商品对用户历史行为做软检索并加权求和，被视为目标注意力在推荐系统中的代表性工作^[5]。

此后该机制沿多条路径演进：长行为序列上出现了两阶段召回再计算目标注意力的方案，以及用 SimHash 指纹筛选 top-K 行为的 ETA-Net，把标准目标注意力的复杂度从 $O(L\cdot d)$ 降到 $O(L)+O(K\cdot d)$^[6]。视觉方向上，2022 年提出的 Focal DETR 通过目标感知采样与目标感知键值矩阵处理目标属性扩散问题，在 COCO 数据集上取得 44.7 AP^[4]。2025 年提出的 TARQ 用残差量化近似目标注意力，把该机制引入对延迟敏感的预排序阶段^[7]。

应用

推荐系统是目标注意力最主要的应用领域。深度兴趣网络被部署在阿里巴巴的展示广告系统中，服务主要流量^[5]。在短视频、电商等场景中，该机制用于预测用户对候选物品的点击概率^[7]。

计算机视觉是另一大应用方向。在目标检测中，DETR 及其改进模型用目标查询与图像特征做交叉注意力，目标注意力被用来抑制背景令牌、增强目标区域的特征响应^[4]。在多目标跟踪中，目标注意力与干扰物注意力配合，前者增强对目标本身的关注，后者减少邻近物体的干扰^[8]。

此外，目标注意力也被用于目标说话人提取，通过对音频与视觉两种模态的嵌入做归一化后融合，提升线索受损时的稳健性^[1]；在视觉导航任务中，它被用于在检测到的物体上学习概率分布，估计与目标物体相关的语义和空间关系^[1]。小样本学习中的 SpatialFormer 也设计了目标注意力模块，用于定位与基类相似的前景区域^[9]。

局限

计算开销是目标注意力最突出的限制。在线推荐中，每个用户请求需要对多个候选物品分别计算注意力，标准目标注意力的复杂度为 $O(N_c\cdot L\cdot d)$，其中 $N_c$ 为候选物品数量、$L$ 为行为序列长度、$d$ 为嵌入维度，系统延迟会随序列长度和维度线性增长甚至更差^[6]。正因如此，它长期难以用于延迟敏感的预排序阶段^[7]。

在视觉任务中，目标注意力面临目标属性扩散和背景干扰两类问题：采样点落在其他目标或背景上会把不属于该目标的属性混入特征令牌，背景令牌携带的目标信息则会在解码时与真实目标令牌混淆，进而导致漏检或误检^[4]。

可解释性方面，虽然经过归一化或正则化的目标注意力往往能给出较直观的注意力分布，但在安全攸关场景中，如何更透明地定位目标仍待进一步研究^[1]。此外，当视觉或音频等模态信号不可靠时，如何按学到的可靠性动态调整甚至丢弃模态，也是尚未完全解决的问题^[1]。

参见

• 注意力机制 —— 目标注意力是其面向特定目标的一类变体。

• 自注意力 —— 与目标注意力相对，查询与键值同源的注意力形式。

• 深度兴趣网络 —— 在推荐系统中引入目标注意力思想的代表模型。

• Transformer —— 目标注意力常以交叉注意力形式嵌入其解码器结构。

• DETR —— 基于 Transformer 的目标检测模型，使用目标查询做交叉注意力。