首页/第〇篇 导读与使用边界/ChatGPT 是怎样工作的
16px
第〇篇 · 导读与使用边界

ChatGPT 是怎样工作的

目录(2
一次回答的简化流程

输入怎样变成回答

你的输入目标 · 材料 · 边界
Token把输入转换为模型可处理的单位
上下文组合对话、文件与可用指令
模型生成根据上下文逐步生成后续 token
工具(按需)搜索、文件、代码或外部连接
回答与核验呈现结果,由人检查事实和动作
教学示意:工具环节只在功能可用且任务需要时发生;动画不代表模型真实的隐藏推理过程或内部概率。

有时,ChatGPT 会把一件事解释得非常顺畅,我们读到句末才想起来:它为什么知道这些?另一次,我们只改了提示中的一句话,回答的重点就完全不同。它既不像传统搜索框,也不像一个保存了所有标准答案的资料库。

一次回答究竟从哪里来

你在输入框里看到的回答,至少受三样东西影响:模型训练中学到的模式、这次对话提供的上下文,以及它当下可以使用的工具。三者混在一起时,回答读起来像一个完整判断,但来路并不相同。

例如你问“这家公司的最新价格是多少”。模型已有的知识可能过时;对话里也许没有地区和币种;如果没有联网工具,它只能根据已有模式回答或承认不知道。换成“请搜索该公司中国区官网,告诉我今天看到的人民币价格并附页面”,问题才从回忆变成一次可追踪的查询。

流畅只是生成方式,不是证据等级

ChatGPT 会逐步生成文字,因此句子之间通常衔接得很好。这个机制解释了它为什么擅长语言,也解释了一个常见陷阱:错误答案并不会自动显得结巴。判断可靠性时,应该看材料、来源和工具结果,而不是看语气有多镇定。

理解原理的实际好处,不是学会一组术语,而是知道下一轮该补什么:缺背景就补上下文,需要当前事实就让它搜索,需要精确计算就要求展示过程并另行复算。

我要理解上下文怎样影响 ChatGPT 的输出。

如果把 ChatGPT 理解成搜索引擎,就容易误以为每句话都有现成网页来源;需要来源时,应明确要求联网搜索、引用原始材料并逐条核对。若把它理解成会保存全部历史的记忆库,就会忽略上下文范围、项目设置和记忆控制。若认为“下一个 token 预测”意味着只是随机拼字,则忽略了大规模训练、后训练和工具系统带来的复杂能力;这个说法描述的是生成机制的核心,不是对全部能力的贬低性概括。

模型能够替我们快速整理许多可能性,但“哪一种值得相信”仍是使用者的工作。省下来的时间,最好用在这一步。