这是《生成式 AI 三十讲》的随查术语表,收录正文中最常遇到的三十个词。解释尽量回答「它是什么、在实际使用中意味着什么」,不把厂商宣传语当定义。
词条按课程首次展开的顺序排列。你可以从正文中的术语链接直接跳到对应词条,再通过「展开讲解」回到相关课程;具体功能、限制和计费方式仍应以所用产品的最新官方文档为准。
- #生成式 AIGenerative AI
- 根据输入生成文本、图片、音频、代码等内容的一类 AI 系统。它生成的是基于训练规律组合出的结果,不代表内容真实或原创。展开讲 →
- #大语言模型Large Language Model, LLM
- 在大量数据上训练、以 token 序列为主要处理对象的生成模型,常见训练目标包括预测后续 token。「大」通常指模型参数和训练计算规模较大,不是固定门槛。展开讲 →
- #Token
- 模型表示和处理文本时使用的离散单位,可以是一个字、词的一部分、标点或其他片段。切分结果随模型和分词器变化,许多 API 用它统计上下文与用量。展开讲 →
- #分词Tokenization
- 把文本转换成 token 序列及其编号的过程。切分边界未必对应人理解的字或词,因此字符计数、拼写等任务可能需要借助代码等工具核验。展开讲 →
- #预训练Pre-training
- 在大规模数据上先训练通用能力的阶段,语言模型常通过预测缺失或后续 token 学习统计规律。数据范围、训练方法与后续训练共同影响能力,不能据此推定模型掌握了某条事实。展开讲 →
- #微调Fine-tuning
- 在已有模型基础上用目标数据继续训练,以调整任务表现、格式或行为。所需数据、方法和成本差异很大,微调也不能自动补齐最新知识或保证事实正确。展开讲 →
- #人类反馈强化学习RLHF
- 利用人类偏好反馈训练奖励信号,再通过强化学习等方法调整模型行为的一类流程。不同模型还可能采用其他偏好优化方法,不能仅凭回答风格判断是否使用了 RLHF。展开讲 →
- #幻觉Hallucination
- 模型生成看似合理但缺乏依据、与事实或给定材料不一致的内容,例如编造法规条号或论文。它是生成模型的重要已知风险,需用来源核验、检索和流程控制降低影响。展开讲 →
- #知识截止Knowledge Cutoff
- 厂商用来说明模型内建知识大致更新到何时的日期或范围,不代表此前事实都知道、此后事实都不知道。联网、检索或外部资料可以提供更新信息,仍需核验来源。展开讲 →
- #提示词Prompt
- 提供给模型的输入,可以包含问题、指令、背景资料、示例和格式要求。它会影响输出,但不是模型一定执行且结果一定正确的保证。展开讲 →
- #系统提示词System Prompt
- 应用在较高指令层级提供给模型的规则或背景,常用于设定行为、语气与边界。它是否对用户可见、如何随会话传递取决于产品,实现上也不能当作秘密保险箱或硬权限控制。展开讲 →
- #上下文窗口Context Window
- 模型一次推理可处理的上下文容量,通常以 token 表示。输入与最大输出如何占用容量、超限时报错还是截断,由具体模型和 API 规则决定。展开讲 →
- #温度Temperature
- 调整模型采样分布的参数之一,通常较低时输出更集中,较高时更多样。它不直接表示事实准确率;即使设置相同,服务实现和其他参数也可能让结果不同。展开讲 →
- #多轮对话Multi-turn Conversation
- 让后续请求结合先前消息继续交流的应用方式。历史可能由客户端重发,也可能由服务端会话取回;保留多少、如何截断和怎样计量取决于具体接口。展开讲 →
- #检索增强生成RAG
- 先从外部资料中检索相关内容,再把内容作为上下文交给生成模型。效果同时受资料质量、切分、检索、权限、提示设计和模型生成影响。展开讲 →
- #向量嵌入Embedding
- 把文本、图片等对象映射为数值向量的表示方法;在特定模型和相似度规则下,语义相关的对象往往更接近。它常用于检索,但距离并不等同于事实相同。展开讲 →
- #向量数据库Vector Database
- 存储向量并支持相似度检索及元数据过滤的数据库或检索系统。它是 RAG 的一种常见组件,但不是所有检索增强方案都必须使用专用向量数据库。展开讲 →
- #工具调用Tool Calling / Function Calling
- 模型按给定工具定义生成结构化调用意图,由应用校验、授权并执行,再把结果交回模型或用户。模型提出调用不等于获得执行权,参数和权限仍须由程序控制。展开讲 →
- #多模态Multimodal
- 能够处理或生成不止一种数据模态的系统,例如文本与图片。支持哪些输入输出、文件格式和理解精度因模型而异,不能仅凭「多模态」推定它能可靠处理所有媒体。展开讲 →
- #推理模型Reasoning Model
- 针对多步问题求解进行专门训练或配置、可能使用额外推理计算的模型类别。它在部分任务上更强,但表现、延迟、用量以及是否提供推理摘要取决于具体产品。展开讲 →
- #智能体Agent
- 围绕目标让模型选择步骤、调用工具、观察结果并继续推进的应用系统。业界定义尚不完全统一,可靠系统还需要权限、状态、终止条件和人工控制。展开讲 →
- #智能体循环Agent Loop
- 智能体反复进行规划或选择、执行工具、观察结果并更新下一步的过程。循环越长会累积成本和错误风险,因此通常要设置权限、步数、预算、超时与终止条件。展开讲 →
- #CLI 智能体CLI Agent
- 通过命令行交互、可按授权读取文件或执行命令的智能体工具。实际能力取决于沙箱和权限配置;能运行命令也意味着要防范误删、泄密和恶意指令。展开讲 →
- #MCPModel Context Protocol
- 一种开放协议,用统一方式向 AI 应用提供工具、资源和提示等上下文能力。它可以减少部分连接层的重复开发,但权限、安全和不同客户端的兼容性仍需单独验证。展开讲 →
- #Skills
- 某些智能体产品用来封装任务说明、脚本和参考资料的能力包,通常在需要时加载。它不是全行业统一标准,具体格式、权限与执行方式取决于所用产品。展开讲 →
- #常驻型智能体Persistent Agent
- 持续保存任务状态,并可由定时器、事件或消息再次触发的智能体系统。长期运行会增加凭证、权限、监控、成本和失控循环等治理要求。展开讲 →
- #输入与输出 tokenInput / Output Tokens
- 一次模型调用中,提供给模型的内容形成输入用量,模型生成的内容形成输出用量;两者费率和细分项依产品而异。多轮历史若再次进入本轮上下文,通常会成为本轮输入或缓存输入的一部分。展开讲 →
- #缓存写入Cache Write
- 服务端为可复用的提示词前缀建立缓存状态的过程,保存的通常是中间计算而非最终答案。是否需要显式启用、是否单列写入费用及有效期多久,都取决于厂商和模型。展开讲 →
- #缓存命中Cache Hit
- 后续请求满足平台的前缀匹配、模型、长度、路由与有效期等条件,因而复用已有缓存状态。命中可能降低延迟或输入费用,具体折扣、字段和保证程度因产品而异。展开讲 →
- #护栏Guardrails
- 围绕模型设置的输入检查、输出验证、权限限制和策略控制,用于降低不当内容、越权或泄露等风险。护栏不能保证零风险,也不能替代身份认证、最小权限和人工监督。展开讲 →