AI 入门 · 四个基础概念

第一次用 AI，先弄懂这四件事

先分清名称、能力从哪里来、文字如何进入模型，以及缓存能复用什么，就能更准确地理解 AI 的工作方式。

模型与应用

AI 是一类技术的总称；GPT 是模型家族，ChatGPT 是产品，Codex 则组织模型与工具完成任务。

补充解释

模型提供处理信息的能力，应用负责把模型、界面、工具和工作流程组合起来。因此，应用名称不等于本次实际使用的具体模型。

训练通过调整模型参数形成处理能力，而你使用时提供的文章、要求和相关对话构成当前上下文。

补充解释

训练影响模型长期形成的能力；当前输入则告诉模型这一次要处理什么。你补充一次要求，通常是在改变本次上下文，不是在当场修改模型参数。

文本会被切分为 Token（词元），映射成编号，再转为模型能够计算的数值表示。

补充解释

Token 是模型处理文本时使用的基本单位，但切分方式并不等同于自然语言中的“字”或“词”。一个 Token 不固定等于一个汉字，具体结果会随所用模型和切分方式而变化。本文不规定具体模型的上下文窗口或价格。

提示缓存可以复用部分重复计算，但缓存输入仍占上下文容量。

补充解释

当输入满足相同前缀、长度、保留时间等服务条件时，提示缓存可能复用已有的中间计算；新增内容和新的回答仍需要生成与计算。

缓存不等于保存旧答案，也不是永久记忆。能否命中、保留多久以及具体效果，取决于所用服务及其当时的条件。