タグ

#on-device

2件の記事

いまや有能なオープンウェイトモデルを1台のノートPCで動かせます。動くかどうかを実際に決めるもの——メモリ、量子化、ツール——と各々の正直な期待値を解説します。

最大のモデルが正解であることはめったにありません。小さなオンデバイスモデルがまるごとの仕事を制する理由と、あなたの仕事がそれに当てはまるかの見分け方を解説します。