タグ
#cost-optimization
2件の記事
use-cases
「トークンマックス」のツケが回ってきた——大手テックがAIトークンの配給制を導入
AI利用量そのものを評価してきた1年を経て、MetaやUberなどがトークン予算に上限を設け、効率性の追求へと舵を切っています。
#enterprise-ai#token-economics#agentic-coding
06-28 22:00·6 分
tools
LLMの応答をキャッシュする:いつ、どのように
キャッシュはLLMのコストとレイテンシを劇的に削れます。あるいは静かに古く間違った答えを返します。その見分け方と安全な実践をお伝えします。
#caching#performance#cost-optimization
05-02 16:58·7 分