Agentes de IA en el trabajo: tareas reales frente al teatro de las demos

Un agente de IA —un modelo capaz de planificar, llamar a herramientas y ejecutar una secuencia de acciones hacia un objetivo— es la idea más emocionante y más sobrevendida de la IA aplicada. Las demos son espectaculares: le das una instrucción vaga y lo ves navegar, hacer clic, escribir código e informar de los resultados. Los despliegues son más modestos. En algún punto entre la demo y el flujo de trabajo diario, los agentes se topan con la fiabilidad, y la fiabilidad es despiadada con ellos. Este artículo separa las tareas reales que los agentes hacen bien del teatro de las demos que no sobrevive al contacto con el trabajo real.

Qué significa realmente "agente"

Si retiras el marketing, un agente es un bucle. El modelo recibe un objetivo, decide una acción, la ejecuta mediante una herramienta, observa el resultado y decide qué hacer a continuación, repitiéndose hasta que juzga que el objetivo está completo. Ese bucle es genuinamente potente, porque permite al modelo manejar tareas que no pueden resolverse en una sola respuesta. También es el origen de todos los problemas de fiabilidad, porque los errores se acumulan. Un modelo que acierta el noventa y cinco por ciento de las veces en un solo paso acierta mucho menos a lo largo de una cadena de diez pasos, ya que cada paso puede descarrilar el siguiente. El bucle es la magia y la maldición en una misma estructura.

El teatro de las demos: las señales

Las demos de agentes están diseñadas para ocultar la fragilidad del bucle, y comparten señales reconocibles. La tarea se elige de modo que el camino feliz sea el único camino. El entorno es limpio y predecible: sin datos obsoletos, sin botones ambiguos, sin sorpresas. La demo se ejecuta hasta que funciona, y tú ves la toma que salió bien. Y, fundamentalmente, el éxito se juzga por si parece hecho, no por si el resultado es correcto y completo. El trabajo real no tiene ninguna de estas protecciones: el camino se bifurca, el entorno es caótico, tienes un solo intento y alguien más adelante depende de que la respuesta sea correcta. Cuando ves una demo de un agente, la pregunta honesta no es "¿funcionó?", sino "¿qué pasa en la ejecución que no te enseñaron?".

Dónde los agentes ganan de verdad su sueldo

Los agentes hacen trabajo real cuando la tarea tiene una forma concreta. Está bien delimitada, con una definición clara de "terminado". Los pasos son mayormente mecánicos en lugar de requerir mucho criterio. El entorno es estable y las herramientas son fiables. Y —lo más importante— los errores son baratos de detectar y revertir. Clasificar y etiquetar elementos entrantes, reunir información de unas pocas fuentes conocidas en un resumen estructurado, ejecutar una comprobación fija de varios pasos, redactar artefactos rutinarios a partir de una plantilla: todo esto aprovecha la fuerza del bucle a la vez que limita el alcance del daño cuando un paso sale mal. El rasgo común es que un humano puede verificar el resultado con rapidez y el coste de un error es bajo.

Dónde se desmoronan

Los agentes tienen dificultades justo donde las demos resultan más impresionantes: tareas largas y abiertas con muchos pasos, objetivos ambiguos y acciones irreversibles. Cuanto más larga es la cadena, más domina el error acumulado, y un solo giro equivocado al principio puede llevar toda la ejecución con plena confianza en la dirección equivocada. Los objetivos abiertos dan al modelo demasiado margen para divagar o para declarar victoria prematuramente. Y las acciones irreversibles —enviar el mensaje, mover el dinero, borrar los registros, publicar en público— convierten un error del modelo en una consecuencia real que no puedes deshacer. Un agente impresionante en un entorno de pruebas puede ser genuinamente peligroso en el momento en que sus herramientas tocan sistemas en producción.

Las salvaguardas son el producto

En los agentes, el diseño de seguridad no es un complemento; es la mayor parte de la ingeniería. Los patrones que hacen desplegables a los agentes son consistentes, y la documentación de los proveedores, como la de Anthropic, describe en detalle la mecánica de uso de herramientas y control. Dale al agente el conjunto más reducido de herramientas que la tarea requiera, no todo lo que pudiera llegar a usar. Haz que las acciones de consecuencia requieran confirmación humana en lugar de dejar que el bucle las dispare de forma autónoma. Prefiere acciones reversibles y registra cada acción para que haya un rastro auditable. Limita el número de pasos para que un agente confundido falle rápido en vez de entrar en espiral. Esto es precisamente el control proporcional a las consecuencias que reclaman marcos como el NIST AI Risk Management Framework: cuanto más puede dañar una acción, más debe permanecer un humano en el bucle.

La verificación es innegociable

El fracaso silencioso de los proyectos de agentes es la ausencia de una comprobación de si el agente realmente tuvo éxito. Como el bucle termina cuando el modelo decide que ha terminado, "terminado" y "correcto" no son el mismo evento, y un agente informará alegremente de la finalización de una tarea que estropeó. Todo despliegue que perdura tiene una respuesta a "¿cómo sabemos que funcionó?" que no depende de la palabra del propio agente: una comprobación independiente, una revisión humana de las salidas, una prueba posterior que detecte resultados malos. Confiar en la autoevaluación del agente es la forma en que los errores silenciosos se acumulan hasta que alguien nota el daño semanas más tarde.

Empieza pequeño y deja que la confianza se gane

Los equipos que tienen éxito con los agentes no empiezan automatizando su flujo de trabajo más arriesgado. Eligen una tarea estrecha, de bajo riesgo y fácil de verificar, ejecutan el agente con un humano revisando cada salida, y miden con qué frecuencia acierta de verdad. Solo cuando el historial lo justifica aflojan la correa: menos confirmaciones, mayor alcance, menos revisión. La confianza se gana tarea por tarea, con evidencia, no se concede por adelantado porque la demo fuera impresionante. Un agente que ha gestionado de forma fiable un trabajo pequeño durante semanas es un cimiento; un agente que esperas que gestione un trabajo grande es un pasivo.

El contexto es lo que hace o deshace el bucle

Detrás de la mayoría de los fallos de agentes que no son problemas de seguridad hay una única realidad técnica: el agente solo sabe lo que tiene delante. En cada paso, el modelo decide su siguiente acción basándose en la información de la que dispone en ese momento: el objetivo, el historial de lo que ha hecho y lo que las herramientas hayan devuelto. Si esa imagen es incompleta, obsoleta o está saturada de ruido, la decisión se degrada, y como el bucle encadena decisiones, un paso degradado envenena el resto. Por eso los agentes que funcionan en un entorno de pruebas ordenado tropiezan en un entorno real: el entorno real inunda el bucle de detalles irrelevantes, resultados ambiguos e información parcial, y el criterio del modelo es solo tan bueno como la imagen sobre la que juzga.

La consecuencia práctica es que diseñar un agente es en gran medida el trabajo de seleccionar lo que ve. Dale la información que un paso realmente necesita y oculta el ruido que lo distraerá. Haz que los resultados de las herramientas sean claros e inequívocos en lugar de volcar una salida cruda que tiene que interpretar. Mantén el historial enfocado para que el modelo no esté razonando sobre un pantano de su propia confusión anterior. Los equipos nuevos en los agentes tienden a suponer que un modelo más capaz es la respuesta a la falta de fiabilidad; los equipos con experiencia saben que una mejor ingeniería de contexto suele mover más la aguja que un mejor modelo. El bucle es solo tan inteligente como la información que le das en cada pasada.

En resumen

Los agentes son reales, útiles y se sobrevenden de forma rutinaria. Ganan su sueldo en tareas delimitadas, mecánicas, reversibles y fáciles de verificar, y se desmoronan en las largas, ambiguas e irreversibles, que es justo donde las demos brillan. El trabajo que los hace desplegables no es el bucle, que es la parte fácil, sino las salvaguardas, la verificación y la disciplina de empezar pequeño. Mira la demo y luego pregunta qué pasa en la ejecución que no te enseñaron. Construye para esa ejecución y los agentes se convierten en compañeros de trabajo genuinamente útiles en lugar de teatro caro.