术语表
领域术语与库内知识点互查。
| 术语 | 英文 | 释义 | 相关 |
|---|---|---|---|
| 锚点 | Anchor | 在用户消息末尾重复关键格式/安全约束以利用近因效应的写法 | 输出格式控制三件套：指令、示例与结构、信息放置策略：指令、知识、数据的排布 |
| 层级压缩 | Hierarchical Compression | 近期原文 + 中期摘要 + 远期状态的三层上下文管理结构 | 上下文压缩：摘要、滚动与层级 |
| 词元 | Token | 模型处理文本的最小单位，计费/窗口/预算的基本计量 | 分词与上下文：模型如何"读"你的话 |
| 错误分类法 | Error Taxonomy | 把失败归入固定类别（格式/事实/推理/越权/组织）以决定修复路径 | 迭代工作流：从失败样本到提示修订 |
| 间接注入 | Indirect Prompt Injection | 恶意指令藏在模型读取的外部内容（网页/文档/工具返回）中的攻击 | 提示注入：直接与间接攻击 |
| 解码期约束 | Constrained Decoding | 生成阶段直接限制合法 token 的原生结构化输出能力 | 结构化输出：JSON/YAML 与 Schema 约束 |
| 上下文窗口 | Context Window | 模型一次能处理的输入+输出 token 总量上限 | 上下文窗口与注意力预算 |
| 上下文工程 | Context Engineering | 围绕模型输入面（提示、资料、工具结果、记忆、结构）做系统性设计与运维的工程学科 | 从 Prompt Engineering 到 Context Engineering：演进脉络 |
| 少样本提示 | Few-shot Prompting | 在上下文中给出少量输入-输出对，让模型模仿任务模式 | 零样本、少样本与示例工程 |
| 失忆检测 | Amnesia Probing | 压缩后用探针问题验证关键信息是否仍可召回的体检手段 | 上下文压缩：摘要、滚动与层级 |
| 数据卫生 | Data Hygiene | 进入上下文数据的脱敏、最小化、分级与留痕纪律 | 内容边界、越狱与数据卫生 |
| 温度 | Temperature | 采样分布的锐化参数：低温尖锐稳定，高温平缓多样 | 采样参数与输出随机性：提示为何"时灵时不灵 |
| 无依据不作答 | Grounded Answering | 仅依据给定资料作答、资料未覆盖时明说的行为契约 | 拒答、越权与边界控制 |
| 误差分拣 | Failure Triage | 按"症状 → 归因分类 → 修复路径"处理失败样本的工作方式 | 迭代工作流：从失败样本到提示修订 |
| 信任分级 | Trust Level | 对上下文中文本按可信度分层（指令/用户输入/外部数据）的安全视角 | 指令层级：系统提示、用户消息与优先级、注入防御：隔离、最小权限与输出侧防护 |
| 压缩比 | Compression Ratio | 摘要后 token 数与原文 token 数之比，常用 0.1~0.3 | 上下文压缩：摘要、滚动与层级 |
| 引用定位 | Citation Anchoring | 要求输出标注资料块编号并逐字摘录，使结论可回查核验 | 长文档组织：分块、裁剪与引用定位 |
| 有用性倾向 | Helpfulness Bias | 模型默认倾向满足请求，使越界成为默认行为而非例外 | 拒答、越权与边界控制 |
| 指令层级 | Instruction Hierarchy | system > user > assistant 的统计性权威排序，非硬隔离 | 指令层级：系统提示、用户消息与优先级 |
| 提示工程 | Prompt Engineering | 设计提示词以影响模型输出的技法体系；上下文工程的子集 | 从 Prompt Engineering 到 Context Engineering：演进脉络 |
| 提示注入 | Prompt Injection | 把恶意指令伪装成数据送入上下文、劫持模型行为的攻击 | 提示注入：直接与间接攻击、注入防御：隔离、最小权限与输出侧防护 |
| 滚动窗口 | Sliding Window | 只保留最近 N 轮历史的朴素上下文策略，伴生失忆风险 | 上下文压缩：摘要、滚动与层级 |
| 最小权限 | Least Privilege | 按会话场景只注入必需工具与数据，高危操作走程序层确认 | 注入防御：隔离、最小权限与输出侧防护 |
| 越狱 | Jailbreak | 对抗模型安全对齐以获取违规内容的攻击；防护主体在模型层 | 内容边界、越狱与数据卫生 |
| 越权 | Privilege Escalation | 模型执行未授权动作（越权工具调用、越权数据访问）的失效 | 拒答、越权与边界控制 |
| 过度拒答 | Over-refusal | 边界条款过宽导致正常请求被误拒；须与漏拒一同度量 | 拒答、越权与边界控制 |
| 输出契约 | Output Contract | 对输出格式、长度、语言的确定性约定，通常落系统提示 | 输出格式控制三件套：指令、示例与结构 |
| 注意力预算 | Attention Budget | 把窗口当作按信息边际贡献精打细算的分配模型 | 上下文窗口与注意力预算 |
| 评估集 | Eval Set | 带标准答案与预期行为的测试输入集合，提示的"测试套件" | 评估集构建：黄金样本与失败分类 |
| LLM-as-Judge | LLM-as-Judge | 用模型按评分量表为输出打分/比对的自动评估方法，需校准后使用 | 自动评估与 LLM-as-Judge |
| Map-Reduce | Map-Reduce | 超长输入分块分别处理再汇总的分解模式 | 任务分解与规划提示 |
| ReAct | ReAct | 思考-行动-观察交替的工具调用提示模式 | ReAct：推理与行动交织的提示模式 |
| Rubric | Rubric | 分维度、每档带可观察判据的评分量表 | 自动评估与 LLM-as-Judge |
| Self-Consistency | Self-Consistency | 多次采样推理路径并对最终答案多数投票的技法 | 自洽性（Self-Consistency）：用多次采样投票换稳定 |
| Top-p | Top-p (Nucleus Sampling) | 按累计概率截断长尾候选集的采样参数 | 采样参数与输出随机性：提示为何"时灵时不灵 |