Etiqueta
#on-device
2 artículos
tools
Ejecutar LLM en local: una guía práctica para un solo portátil
Hoy puedes ejecutar un modelo de pesos abiertos capaz en un solo portátil. Esto es lo que realmente determina si funciona —memoria, cuantización, herramientas— y expectativas honestas.
#local-llm#quantization#on-device
05-14 09:12·7 min
models
Modelos pequeños, grandes tareas: cuándo el dispositivo gana a la nube
El modelo más grande rara vez es el adecuado. Aquí está por qué los modelos pequeños en el dispositivo ganan clases enteras de tareas.
#small-models#on-device#edge-ai
04-01 12:28·7 min