Token 是什么?看懂大模型的计费单位与长度限制

xinhack7小时前AI科普6

看大模型的新闻,你几乎每天都会撞见这个词:Token。"上下文 100 万 token""每百万 token 收费几美元""输出速度每秒 50 token"——Token 到底是什么?

Token:AI 眼里的"文字颗粒"

计算机没法直接理解文字,模型处理文本前,要先把文字切成一个个小块,这些小块就叫 Token。可以把它理解为模型的"识字单位"。

在英文里,一个 Token 大约相当于 0.75 个单词,"unbelievable"这样一个长词可能被切成 "un"、"believ"、"able" 三块。在中文里,通常一个汉字对应一到两个 Token,常见词可能整词成块,生僻字则要拆开。

一个直观的换算经验:1 个 Token 大约相当于 0.5~0.7 个汉字。所以"100 万 token 上下文"大致相当于能装下六七十万字的中文内容。

为什么这个词无处不在?因为它关系到钱和限制

第一,Token 是计费单位。调用大模型 API 的价格几乎都以"每百万 token"标注,输入和输出分别计价,输出通常比输入贵几倍。你问的问题占输入 token,模型回答占输出 token。

第二,Token 是长度限制的单位。模型一次能"看见"的内容总量就是上下文窗口,以 token 计。超出了,最开头的内容就会被"挤出"模型的记忆。

第三,Token 影响速度。模型逐个 token 生成回答,所以"每秒生成多少 token"就是最常用的速度指标。

普通人用得上这个知识吗?

如果你只是偶尔和 AI 聊天,几乎感知不到 Token 的存在。但在以下场景,懂一点 Token 会很实用:

选套餐、比价格:对比各家 AI 服务的费用时,token 单价和上下文长度是两个核心参数,缺一不可。

处理长文档:想让 AI 读一本书、一份百页合同,先看它的上下文窗口够不够大。窗口太小,就得分段处理。

控制输出长度:很多工具允许你限制回答的 token 数,给写作、摘要任务设置上限可以省时间和费用。

一句话总结:Token 就是 AI 世界的"字数+流量+计费"三合一单位。看懂了它,你就看懂了大模型产品参数表里的大半内容。

相关文章

上下文窗口是什么?为什么 AI 会忘记你说过的话

和 AI 聊了半小时,它突然忘了你最开头交代的要求;或者让它总结一篇长文,它说"请把内容发给我"——你明明已经发过了。这些现象的根源,是同一个概念:上下文窗口(Context Window)。 上下文...