标签
#tokens
4 篇文章
models
token 的成本：模型定价是怎么运作的
"模型账单以 token 计量，而非单词或请求。弄清 token 是什么、以及你为哪些 token 付费，是让成本保持可预测的方式。"
#tokens#pricing#cost-management
06-12 15:45·7 分钟
models
上下文窗口详解：token、注意力，以及长上下文在哪里失灵
更大的上下文窗口并不等同于更好的记忆。这是上下文窗口究竟是什么、长输入为何会劣化，以及如何围绕它来设计。
#context-window#tokens#attention
06-02 10:06·7 分钟
models
token 与分词:为什么模型看文本的方式很奇怪
模型不读字母也不读词语——它们读的是 token。弄懂这一个事实,就能解释拼写出错、奇怪的成本,以及上下文限制为何这样运作。
#tokens#tokenization#context-window
05-14 16:37·7 分钟
tutorials
成本控制入门：让一个 AI 功能保持可负担
AI 功能按 token 计费，而小习惯会复利成大账单。这里是几个经久的杠杆，帮你在不掏空质量的前提下把成本控制住。
#cost#tokens#caching
04-25 14:40·7 分钟