Token 是什么?看懂大模型的计费单位与长度限制
看大模型的新闻,你几乎每天都会撞见这个词:Token。"上下文 100 万 token""每百万 token 收费几美元""输出速度每秒 50 token"——Token 到底是什么?
Token:AI 眼里的"文字颗粒"
计算机没法直接理解文字,模型处理文本前,要先把文字切成一个个小块,这些小块就叫 Token。可以把它理解为模型的"识字单位"。
在英文里,一个 Token 大约相当于 0.75 个单词,"unbelievable"这样一个长词可能被切成 "un"、"believ"、"able" 三块。在中文里,通常一个汉字对应一到两个 Token,常见词可能整词成块,生僻字则要拆开。
一个直观的换算经验:1 个 Token 大约相当于 0.5~0.7 个汉字。所以"100 万 token 上下文"大致相当于能装下六七十万字的中文内容。
为什么这个词无处不在?因为它关系到钱和限制
第一,Token 是计费单位。调用大模型 API 的价格几乎都以"每百万 token"标注,输入和输出分别计价,输出通常比输入贵几倍。你问的问题占输入 token,模型回答占输出 token。
第二,Token 是长度限制的单位。模型一次能"看见"的内容总量就是上下文窗口,以 token 计。超出了,最开头的内容就会被"挤出"模型的记忆。
第三,Token 影响速度。模型逐个 token 生成回答,所以"每秒生成多少 token"就是最常用的速度指标。
普通人用得上这个知识吗?
如果你只是偶尔和 AI 聊天,几乎感知不到 Token 的存在。但在以下场景,懂一点 Token 会很实用:
选套餐、比价格:对比各家 AI 服务的费用时,token 单价和上下文长度是两个核心参数,缺一不可。
处理长文档:想让 AI 读一本书、一份百页合同,先看它的上下文窗口够不够大。窗口太小,就得分段处理。
控制输出长度:很多工具允许你限制回答的 token 数,给写作、摘要任务设置上限可以省时间和费用。
一句话总结:Token 就是 AI 世界的"字数+流量+计费"三合一单位。看懂了它,你就看懂了大模型产品参数表里的大半内容。
