标签
#cost
4 篇文章
tools
在调用 API 与自托管 LLM 之间抉择
调用托管 API，还是自己运行模型？老实说，答案取决于用量、控制权，以及你能消化多少运维工作。
#llm-api#self-hosting#infrastructure
05-28 18:01·7 分钟
tutorials
为任务选择合适的模型规模
越大并不总是越好。这是一套实用方法，帮你挑出与任务、预算和你能接受的延迟相匹配的模型规模。
#models#cost#latency
05-09 15:05·7 分钟
tutorials
成本控制入门：让一个 AI 功能保持可负担
AI 功能按 token 计费，而小习惯会复利成大账单。这里是几个经久的杠杆，帮你在不掏空质量的前提下把成本控制住。
#cost#tokens#caching
04-25 14:40·7 分钟
policy
推理的经济学：为什么「便宜的 AI」加起来还是不便宜
单次 AI 调用看起来几乎免费。那为什么 AI 账单会膨胀？用通俗的语言，带你认识那把分分钱变成真金白银的经济学。
#inference#cost#economics
04-16 14:07·7 分钟