DARTree

定义

DARTree 是一种无需训练（training-free）的 推测式解码 方法，作用对象是自回归语言模型的推理过程^[4]。它沿用已有的块并行草稿器与预训练修正头，改动集中在候选树如何构造，目标模型的树形验证环节保持原样^[5]。

所谓“草稿树”，指一次推理轮次中被组织成树形的多条候选词元序列，它们共享前缀、在不同位置分叉，目标模型可对这些序列并行打分^[5]。DARTree 的特点是把自回归修正头从一条链扩展到这棵树的各个分支，使每条候选路径都按自身的词元历史得到条件化的概率估计^[3]。

据作者论文，即使在贪婪解码之外，这一方法在随机采样设置下也表现出接受长度的提升^[6][7]。

原理

推测式解码的基本思路是让轻量草稿器先写出若干候选词元，再由目标模型一次性并行验证，被接受的词元直接保留，因而输出分布与常规解码一致。基于扩散的草稿器能并行预测整个词元块，但它在每个位置上给出的是边缘分布，并未以该路径上已选定的前序词元为条件，候选虽多，与因果信息却可能错位^[3][7]。

DARTree 的处理办法是按深度分层展开。块并行主干先跑一次，得到整个草稿块的共享表示，随后逐层对当前活跃分支批量调用预训练修正头，每个位置只保留修正头预测的前 $K$ 个候选词元作为扩展，再按修正后的累计分数在每层保留固定宽度 $W$ 的前缀，并把对应的修正状态传给下一层^[5]。这样得到一棵宽度固定、比最终验证树更宽的候选“超树”^[5]。

前缀的得分采用累加对数概率的形式，并带一个深度奖励项 $\beta$：$s_{\beta}(u_{1:d}) = \sum_{i=1}^{d} \log \widetilde{q}_{i}(u_{i} \mid u_{<i}) + \beta d$，其中 $\widetilde{q}_{i}$ 是修正头给出的条件概率^[5]。全部候选分数齐备后，再以节点预算 $B$ 做一次全局最佳优先剪枝，得到送交目标模型验证的子树^[5]。

这一安排被称为延迟剪枝，其效果是把修正头的推理与串行的堆操作分开：修正、打分、选择与状态更新在同层内可以张量化并行，只有深度方向保留顺序依赖^[5]。由于修正头本身很轻，加宽层宽带来的额外草稿延迟较小，因而构建比验证树更宽的候选集合在实践中可行^[5]。

flowchart LR

A[块并行草稿] --> B[逐层批量展开与修正]

B --> C[每层保留固定宽度前缀]

C --> D[候选超树]

D --> E[全局最佳优先剪枝 top-B]

E --> F[目标模型树形验证]

发展历程

DARTree 的提出依托推测式解码与树形验证的前期工作。2023 年列维坦（Leviathan）等人系统提出推测式解码框架；2023 年至 2024 年间，Medusa、Eagle 等方法从多头草稿与自适应草稿角度推进加速；Domino 则以树形结构与循环修正结合，成为 DARTree 的直接对照对象之一，DDTree 提供了最佳优先的树构造方式^[3][5]。

2026 年 8 月 12 日至 13 日，论文《DARTree: Speculative Diffusion Decoding with Autoregressive Draft Trees》以预印本形式在 arXiv 发布，编号 2608.13524，作者为李添翼、罗亚欣、尚欣怡、沈志强^[2][4]。论文给出的主要立论是：扩散式树构造扩大了候选覆盖，但修正没有沿各分支传递，而 DARTree 把这一环补上^[8]。

据论文平台的记录，作者围绕方法开展了消融实验，把按深度分层的构造方式与交错执行堆操作、以及“单链修正加 DDTree 建树”两种替代方案作对比，并以开源方式发布了代码^[6][3]。

应用

DARTree 面向大语言模型推理的部署加速，属于在现有模型与修正头上即可启用的推理端方法，不涉及重新训练或改动架构^[3][4]。其适用场景与推测式解码一致，即在生成长度较长、单次前向受限的场合减少解码步数^[7]。

论文在数学、代码与对话三类共 7 个基准上评估，包括 MATH、AIME25、GSM8K、HumanEval 与 MT-Bench，模型涉及 Qwen3 系列的 4B 与 8B 版本^[3][6]。在全部 4 种模型与温度组合下，该方法取得最高的平均接受长度与加速比，单轮验证最多接受 12.97 个词元，较 DFlash 高 98.6%，较 Domino 高 27.9%，相对本地实测的标准自回归解码最高加速 9.73 倍^[9]。

消融结果显示，与在堆中交错执行修正的顺序方案相比，DARTree 的接受长度接近而单轮耗时约为一半；与“单链修正加 DDTree 建树”相比，平均接受长度最多提升 16.4%，3 个数据集上加速比均居首^[6]。相对于固定宽度的变体，延迟剪枝进一步带来最多 6.5% 的接受长度提升与 7.1% 的加速比提升^[6]。

局限

DARTree 用按深度固定宽度的调度替代了全局逐节点的最佳优先展开，这是一种近似：在每一层内部，堆的决策不再区分两次修正的先后，因此搜索顺序并非严格的全局最优^[5]。论文也指出，深度之间仍保留顺序依赖，并行只发生在同一层内^[5]。

层宽、候选词表规模 $K$ 与节点预算 $B$ 需预先设定，候选树宽度一旦确定便按固定值构建，并非随输入自适应调整^[5]。论文平台列出的后续方向包括动态树宽自适应、多粒度树结构以及与混合专家模型的协同优化^[3]。

方法的收益依赖已有预训练修正头的质量，论文以特定的修正头实例化为主要对象，并表示不假定某一特定修正架构^[5]。在单个基准的个别设定上并不总是占优，例如 AIME25 配合 Qwen3-8B 时，DDTree 的加速比略高，而 DARTree 的接受长度更高^[6]。上述结论来自作者的预印本与自测环境，尚未见同行评议版本的记录。

参见

• 推测式解码 —— DARTree 所属的方法类别，通过并行验证候选词元实现无损加速

• 自回归语言模型 —— DARTree 所服务的模型类型，按词元顺序逐位生成文本

• 扩散模型 —— DARTree 所用块并行草稿器的技术来源

• 束搜索 —— 与树形候选保留思路相近的序列搜索方法

• 大语言模型 —— DARTree 的主要应用对象