返回首页

Token

AI 给文字打的“小票”。费用按 token 算、能装多少也按 token 算。中文 1 个字 ≈ 1-2 token。

做什么会用到

  • 01做 AI 产品:每次 API 调用都烧 token —— 要监控成本,不然一个月几千块没了
  • 02用户上传长文档:先数 token 数,太长就要截断或分段处理
  • 03回答被截断:“max_tokens 不够大,或者用户问得太长把上下文撑爆
  • 04OpenAI 有 tiktoken 工具可以本地估算 token 数量

想用它怎么问 AI

这是我 AI 产品一次完整对话的内容【贴内容】。请告诉我大概烧多少 token、用 GPT-4o/Claude 3.5 / GPT-3.5 各花多少钱,以及如何压缩。