标签
2 篇文章
如今,你可以在一台笔记本上运行一个能干的开源权重模型。这里讲清楚真正决定它能否跑起来的因素——内存、量化、工具链——以及对每一项的诚实预期。
"两种把模型缩小的不同方式——一种改变它的数字,另一种训练一个更小的副本。下面讲清楚各自如何运作、以及何时该用哪一个。"