刚接触 AI 接口时,最容易被一堆缩写劝退:token、上下文窗口、温度、embedding、RAG、Agent……它们听着高深,其实大多是几个简单概念的不同说法。这篇把最常遇到的词按「模型本身 — 怎么调用 — 怎么搭系统」三层排一遍,读完再看文档就不会卡壳。
第一层:描述模型本身的词
参数量。模型内部可调数字的总量,通常用 B(十亿)来标。参数多一般代表能力上限更高,但也更慢、更贵,并不等于在你的具体任务上更好。
Token。模型读写的最小单位,大致对应一个词或半个词,中文里一个汉字通常算一到两个 token。计费、上下文长度、输出上限,都以它为单位计算。
上下文窗口。一次请求里模型能同时「看到」的 token 总量,包含你发的问题和它回的答案。超出部分会被截断,所以长文档要先切分再喂。
记一句话就够:token 是尺子,上下文窗口是桌面,桌面放不下就得分盘上菜。
第二层:调用时绕不开的词
提示词(Prompt)。你发给模型的全部文字,通常分两段:系统提示词负责定人设与规则,用户消息负责这一次的具体要求。同一件事换个说法,结果可能差很远。
温度(Temperature)。控制输出的随机程度。调低偏稳定保守,适合信息抽取、分类、写代码;调高更发散,适合头脑风暴和创意文案。
流式输出。模型边生成边返回,而不是等全部算完再一次性给出。体感更快,适合聊天界面;后台批量任务反而不需要。
幻觉。模型一本正经地编造不存在的事实、引用或链接。它不是故意撒谎,而是在按概率补全最像样的下文,所以关键结论必须自己核一遍。
第三层:搭系统时会遇到的词
Embedding。把一段文字压成一串数字向量,意思相近的文字,向量也相近。它是语义搜索和知识库的地基,本身不生成任何内容。
RAG(检索增强生成)。先从你的资料里检索出相关片段,再把片段塞进提示词让模型据此回答。好处是答案有出处,也不用重新训练模型。
Agent(智能体)。让模型自己决定下一步做什么:调工具、查资料、再判断,循环若干轮直到任务完成。它比单次问答多了一个「行动」环节。
MCP。一种让模型统一接入外部工具和数据的协议,可以理解为给 AI 装的标准化插槽——插上一个工具,就多一种能力。
把这些词串起来看就清楚了:Embedding 负责找,RAG 负责给依据,Agent 负责动手,MCP 负责接工具,而 token 与上下文窗口始终是那条绕不开的成本与长度约束。
常见问题
这些词必须全记住才能用接口吗?
不必。真正上手只需要懂三件事:token 怎么算钱、上下文窗口有多长、温度调高调低的差别。其余的词遇到再查,用过两次自然就熟了。
术语在不同厂商那里叫法一样吗?
核心概念一致,叫法常有差异。比如上下文窗口有的写作 max context,系统提示词有的叫 system message。看文档时抓住定义而不是名字,迁到别家就不费劲。
中文一个汉字到底算几个 token?
常见分词器下,一个汉字约等于一到两个 token,生僻字和标点会更多。要精确估算,直接把真实文本发一次,看返回里的用量字段,比按字数乘系数可靠得多。