提示词

定义

提示词是使用者提交给人工智能模型的输入内容，可以是一个问题、一段文字描述，也可以是任何形式的文本输入；模型将其作为生成回答的起点。^[1] 在交互过程中，它是人与模型之间传递任务意图的通道，决定了输出内容的范围与方向。^[2]

按常见的拆解方式，一条完整的提示词包含指令、说明与上下文三部分：指令交代要完成的任务，说明补充字数、格式、风格等要求，上下文则提供角色、示例或外部资料供模型参考。^[1] 也有资料把其要素细化为角色、任务、背景、约束、格式、示例六项。^[3]

与之相邻的概念是提示词工程。它指在不对模型参数做更新的前提下，通过设计和优化提示词来引导模型产出目标结果的方法，与用于训练、会改变模型权重的数据构建工作不是一回事。^[1]

原理

主流大语言模型建立在 Transformer 架构之上，通过自注意力机制处理输入序列中的依赖关系与上下文信息，其基本行为是依据已有文本预测下一个词元（token）。 提示词并不改变模型的权重，它改变的是模型在当前上下文中的注意分布与生成路径，使输出被约束在更窄的范围内。

信息在一段提示中的排列位置会影响结果。有研究指出，在提供其他上下文或示例之前先说明任务，往往能得到更高质量的输出；同时模型可能存在近因偏差，提示末尾的内容对生成的影响更大，因此在结尾重复关键指令是一种常用做法。^[4] 用分隔符把指令与待处理文本隔开、使用明确的语法标记，也有助于模型区分各部分并便于后续解析。^[4]

在提示中给出少量示例是提升效果的主要手段之一。零样本提示只给任务说明，少样本提示则附上若干输入输出示例，模型无需更新参数即可据此完成新任务。^[5] 另一种被广泛使用的写法是思维链提示，即在示例中展示分步推理过程，或在问题后追加「一步一步思考」一类引导语，使模型先写出中间步骤再给出答案。^[6]

发展历程

2020 年，OpenAI 发表关于 GPT-3 的研究，展示仅通过文本交互给出任务描述与少量示例即可完成翻译、问答、完形填空等任务，并把这种做法表述为上下文学习。该研究区分了零样本、单样本与少样本三种设置，指出性能随模型规模扩大而提升。^[5]

2022 年 1 月，谷歌研究团队发表思维链提示的论文，发现向模型提供含分步解答的示例能明显改善其多步推理表现，并指出这一收益在大约千亿参数以上的模型上才稳定出现。^[7] 同年，有研究提出零样本思维链，仅靠一句引导语触发分步推理。^[6]

随着应用场景复杂化，关注点由单次指令的措辞扩展到整个信息环境的组织，出现上下文工程的说法。有文献把上下文工程视为提示词工程的自然演进，认为前者管理指令、检索内容、记忆与工具结果，后者关注单条指令的表达。

应用

在文本生成场景中，提示词用于撰写摘要、翻译、改写、分类与信息抽取等任务，开发者常要求模型按 JSON、Markdown 等格式输出，以便程序直接读取结果。^[8] 云服务厂商也把提示词写作方法整理为规范，给出「打基础、补说明、规范输出格式」等逐步细化的步骤。^[1]

在面向企业的应用中，提示词常与检索机制配合：系统先从知识库检索相关文档，再把文档内容作为上下文放入提示，由模型据此作答，用以弥补模型不了解内部资料的问题。 在智能体场景下，提示词还用于设定模型可调用的工具、执行步骤与停止条件。^[9]

由于模型在推理阶段会完整读入提示内容，攻击者可通过在提示中嵌入恶意指令使模型偏离原本设定，这类问题被称为提示注入，在 OWASP 面向大模型应用的十大风险清单中列于首位。 相关防护思路包括限制模型权限、校验输入输出、隔离外部不可信内容以及对高风险操作引入人工确认。^[10]

局限

提示词无法为模型补充它原本不具备的信息。若任务依赖私有数据或近期发生的事件，仅靠措辞要求模型准确作答并不能弥补信息缺失，而用示例外挂知识又容易触及上下文窗口的容量上限。 提示中的示例数量受窗口长度制约，早期模型的可用容量有限，长文档往往需要先切分检索再送入提示。^[11]

模型对提示的解读并不稳定。同样的要求换一种说法，输出可能差异明显，部分技巧的效果与示例选择、排列顺序密切相关；对于复杂任务，单条提示也难以稳定组织多个来源的信息，并可能在多轮对话中遗忘早先设定的约束。 此外，模型面对模糊指令时通常不会主动追问，提示中未写明的假设只能由模型自行补全。^[12]

提示注入难以彻底防范，原因在于模型把指令与数据都当作同一段文本处理，缺乏可靠手段区分「应当执行的指示」与「仅仅需要阅读的内容」，因此过滤、限制权限等手段只能降低风险，难以完全消除。