Etiqueta
#llm-api
2 artículos
tools
Elegir entre una API y alojar tu propio LLM
¿Llamar a una API alojada o ejecutar el modelo tú mismo? La respuesta honesta depende del volumen, el control y cuánta operación puedas asumir.
#llm-api#self-hosting#infrastructure
05-28 18:01·7 min
tools
Límites de tasa y reintentos: construir llamadas a LLM resilientes
Los LLM alojados fallan de formas corrientes: límites, tiempos de espera, errores transitorios. Un poco de disciplina de reintentos vuelve fiable una integración frágil.
#rate-limits#retries#reliability
04-10 08:22·7 min