AI 术语速查词典：和工程师对话的通行证

为什么要一本自己的词典

评审会上工程师说「这个场景 token 超了」「先跑个 RAG 试试」——听不懂术语，你就失去了参与讨论的资格。本篇把高频术语按五个主题分组，每个词只给一句产品视角的解释。建议通读一遍建立印象，之后当速查表随用随查。

对话与生成类

术语	产品视角解释
token	模型处理文本的最小单位，一个汉字通常是 1-2 个 token；计费和长度限制都按它算
上下文窗口	模型一次能「记住」的内容长度上限，超出的部分会被截断遗忘
temperature	生成随机性旋钮：调低更稳定适合客服，调高更多样适合创意
top-p	与 temperature 类似的采样控制，两者通常调一个就够
推理模型	回答前先长篇思考的模型，擅长数学与逻辑，但更慢更贵

检索与知识类

术语	产品视角解释
embedding	把文字变成一串数字（向量），语义相近的内容向量也相近
向量数据库	存向量、按语义相似度检索的数据库，RAG 的地基
RAG	检索增强生成：先查资料再回答，让模型能答私有知识且可溯源
重排序（reranker）	对初步检索结果做精排的小模型，能显著提升召回质量

训练与定制类

术语	产品视角解释
微调（fine-tuning）	用自己的数据继续训练模型，让它更懂你的业务；成本与收益都要先评估
蒸馏	用大模型的输出训练小模型，效果接近但更便宜更快
量化	压缩模型精度以降低部署成本，代价是轻微的能力损失
对齐	让模型行为符合人类意图与价值观的过程
RLHF	基于人类反馈的强化学习，主流对齐手段，让输出更符合人的偏好

工程与集成类

术语	产品视角解释
function calling	让模型按约定格式调用外部函数的能力，是智能体使用工具的基础
MCP	Model Context Protocol：Anthropic 2024 年推出的工具接入标准协议，现已成为行业事实标准

产品与行为类

术语	产品视角解释
幻觉	模型一本正经地编造事实，是 AI 产品最大的信任风险
Agent（智能体）	能自主规划、调用工具、多步完成任务的 AI 系统，比单轮问答更进一步

怎么用这本词典

1. 开会前扫相关分组：讨论知识库前先看检索类，讨论定制方案前先看训练类；
2. 把术语追问成信息：工程师说「token 超了」，就追问超了多少、窗口多大、能不能截断——把术语转化为可决策的产品信息；
3. 持续归档：遇到新术语就按这五组补进你自己的笔记，半年后这本词典就是你的私产。

产品决策提示：术语的真正价值是暴露决策点。每个术语背后都有一个你可以拍板的问题——temperature 关乎体验调性，RAG 关乎知识更新流程，微调关乎数据与预算。听懂术语的意义不是显得专业，而是找到决策入口。

本节要点

• 五组术语覆盖日常协作：对话生成、检索知识、训练定制、工程集成、产品行为，先建索引再逐个吃透。
• token、上下文窗口、幻觉是成本与体验的三个基本盘；temperature 与 top-p 是一对调性旋钮。
• RAG 三件套（embedding、向量数据库、重排序）是知识类产品的技术底座。
• function calling 与 MCP 是智能体的工具底座；微调、蒸馏、量化是定制与降本的三条路。
• 每个术语背后都有产品决策点，把「听懂」升级为「能拍板」。