Buenas prácticas para crear sistemas de agentes de IA

La IA de agentes es la última novedad del sector del software. Más allá de los chatbots inteligentes, los agentes de IA operan con una autonomía cada vez mayor, lo que los posiciona para impulsar mejoras en la eficiencia en las empresas. “El término ‘agente’ se refiere a sistemas de IA que pueden realizar acciones en nombre de los usuarios, no solo generar texto o responder preguntas”, dice Andrew McNamara, director de aprendizaje automático aplicado en Shopify. Los sistemas de agentes funcionan de forma continua hasta que se completa una tarea.

El desarrollo de la IA de agentes abarca muchos ámbitos empresariales, se implementan con mayor frecuencia en ingeniería de software, donde representan casi la mitad de los casos de uso, seguidos de la automatización de tareas administrativas, el marketing, las ventas, las finanzas y el análisis de datos. El desarrollo centrado en los agentes exige una nueva forma de pensamiento sistémico para evitar escollos como el indeterminismo y la saturación de tokens. Existen brechas de seguridad derivadas de los LLM, como la disposición de un modelo a alucinar para alcanzar un objetivo. Para obtener buenos resultados una planificación inicial adecuada es imprescindible.

“Crear sistemas de agentes requiere una arquitectura fundamentalmente nueva, diseñada para la autonomía, no solo para la automatización”, dice Anurag Gurtu, director ejecutivo de AIrrived, proveedor de plataformas de IA de agentes. “Los agentes necesitan un entorno de ejecución, un cerebro, manos, memoria y barreras de seguridad”. Aunque la IA de agentes es prometedora, el retorno de la inversión de la IA es un objetivo cambiante. Menos de la mitad de las organizaciones informan de un impacto medible de los experimentos con IA agentiva, según Alteryx, y menos de un tercio confía en la IA para la toma de decisiones precisas.

¿Cuáles son los ingredientes que hay detrás de los sistemas agenticos de nivel empresarial exitosos? A continuación, se exploran los rasgos comunes de los sistemas agentivos para obtener orientaciones prácticas y lecciones aprendidas para desarrolladores y arquitectos.

Los sistemas agentivos se componen de un grupo de bloques de construcción que lo hacen todo posible. Juntos, forman una red interconectada de arquitectura de software, con diferentes componentes que sirven a diferentes propósitos. “Crear un agente de IA es como construir un sistema nervioso”, afirma Ari Weil, evangelista de la nube en Akamai. Ese sistema abarca capas de razonamiento, memoria, recopilación de contexto, coordinación, validación y medidas de seguridad con intervención humana. “Los sistemas agentivos se basan en una combinación de IA, automatización de flujos de trabajo y controles empresariales que funcionan conjuntamente”, añade Ramsey, de ServiceNow.

En primer lugar, si se desglosan los sistemas agenticos en sus componentes fundamentales, se debe empezar por el modelo subyacente. “Un modelo de razonamiento se sitúa en el núcleo”, dice Frank Kilcommins, director de arquitectura empresarial en Jentic. Ese motor de razonamiento realiza la planificación basándose en la solicitud del usuario, combinada con el contexto disponible y las capacidades existentes. “Buscamos modelos que parezcan agentivos”, dice McNamara, de Shopify. “Tienen la cantidad adecuada de llamadas a herramientas y siguen las instrucciones con firmeza, lo que facilita darles indicaciones y dirigirlos”.

Un agente necesita contexto. Ese puede adoptar la forma de datos internos de la empresa, conocimiento institucional y políticas, indicaciones del sistema, datos externos, memoria de chats anteriores y metadatos de agente, es decir, las indicaciones del usuario, los pasos de razonamiento y las interacciones con herramientas y fuentes de datos que permiten observar y depurar el comportamiento del agente.

Según Edgar Kussberg, director de producto de IA, agentes, IDE y herramientas de desarrollo en Sonar, las fuentes de datos pueden incluir bases de datos y API, sistemas de generación aumentada por recuperación (RAG) y bases de datos vectoriales, sistemas de archivos y almacenes de documentos, paneles de control internos o sistemas externos como Google Drive. Las organizaciones crean bases de conocimiento de agentes para organizar los datos y optimizar el proceso de recuperación. Al mismo tiempo, surgen patrones detrás de los procesos de recuperación semántica que impulsan los sistemas de gestión de contexto de los agentes.

Para que los agentes sean operativos, necesitan algo más que un contexto estático: necesitan acceso de lectura y escritura a bases de datos, herramientas y API. “Parte del trabajo que se realiza para hacer que los agentes sean más potentes tiene que ver con las formas en que se conectan la IA y los sistemas existentes”, dice Jackie Brosamer, directora de datos e IA en Block, empresa de servicios financieros. Para habilitar el acceso a esas capacidades, el sector se unificó en torno al Model Context Protocol (MCP) como conector universal entre agentes y sistemas.

Otro componente útil es contar con flujos de trabajo claramente documentados para los procedimientos comunes. Esos incluyen acciones de varios pasos que se interrelacionan con servidores MCP o llamadas directas a la API. “Lo importante es que esos agentes se coordinen a través de flujos de trabajo definidos”, según Ramsey, de ServiceNow, “para que la autonomía se amplíe de forma predecible y controlada, en lugar de volverse caótica”. Kilcommins, de Jentic, describe cómo se puede lograr eso utilizando “definiciones de capacidades claras y legibles por máquina”, haciendo referencia a la especificación Arazzo, un estándar del sector de la OpenAPI Initiative, como método para documentar dichos comportamientos.

Los agentes deben estar equipados para integrarse entre sí y encajar bien en un bucle de retroalimentación continuo. Los sistemas multiagente suelen ser necesarios a gran escala, afirma Gurtu, de AIrrived. “En lugar de un agente generalista, a menudo se cuenta con equipos de agentes especializados, como agentes de razonamiento, agentes de recuperación, agentes de acción y agentes de validación”. Eso requiere un tejido conectivo. “En esencia, se necesita una capa de orquestación para el ciclo planificar-ejecutar-evaluar”, afirma Kovi, de Amazon.

Entre los componentes comunes para la orquestación, dice Kovi, se incluyen LangGraph, un marco de orquestación de bajo nivel; CrewAI, un marco de Python para la orquestación multiagente; y Bedrock Agents, que ayuda a los agentes a automatizar tareas de varios pasos. Los estándares y protocolos abiertos, como el protocolo A2A para las comunicaciones entre agentes, también son importantes para permitir que los agentes de IA colaboren de forma eficaz.

Dada la propensión de los LLM a alucinar y desviarse de las expectativas, la seguridad es quizás el elemento más importante a la hora de construir sistemas de agentes seguros. “Ya no se protege software que sugiere, se protege software que actúa”, dice Gurtu. “Una vez que los agentes pueden modificar el acceso, activar flujos de trabajo o remediar incidentes, cada decisión se convierte en un posible fallo de control si no está regulado”. Según Kilkommins, el alcance potencial de las acciones de los agentes es enorme, especialmente en el caso de ejecuciones encadenadas y sin control. Recomienda contar con permisos claramente definidos para evitar la escalada de privilegios y la exposición de datos confidenciales.

En los sistemas con agentes, se necesitan métodos de seguridad matizados. “Un agente decide en tiempo de ejecución qué consultar y qué herramienta invocar, por lo que no se pueden delimitar los permisos de la forma tradicional”, dice Kovi. Los expertos afirman que la autorización justo a tiempo será crucial para preparar la internet no humana para el futuro. Kovi añade que las reglas de seguridad, como “no consultar columnas de información personal”, no deben aparecer en la ventana de comandos. “Las barreras de seguridad deben estar en las políticas y la configuración de gestión de identidades y accesos, no solo en las instrucciones de la línea de comandos”.

Incluso con autenticación y autorización avanzadas, las acciones sensibles requerirán aprobaciones humanas. Shopify se basa por defecto en el “diseño con intervención humana”, dice McNamara. Eso permite a los comerciantes revisar el contenido generado por la IA antes de que se publique. Otros adoptan una postura similar, especialmente en el caso de las transacciones financieras. “Nuestra regla general es que cualquier cosa que afecte a los sistemas de producción necesita controles humanos”, afirma Brosamer, de Block, refiriéndose a cómo la confirmación del usuario es un elemento clave de Moneybot, el agente integrado en Cash App.

La creación de sistemas agenticos también requiere una gran cantidad de pruebas previas para evaluar si los resultados coinciden con los previstos. Por ejemplo, Shopify lleva a cabo una rigurosa evaluación previa a la implementación de los resultados de los agentes utilizando tanto pruebas humanas como simulaciones de usuarios con evaluadores especializados basados en LLM. “Una vez que el evaluador coincide de forma fiable con los evaluadores humanos, se puede confiar en él a gran escala”, afirma McNamara. Otros coinciden en que las evaluaciones son fundamentales para los sistemas de agentes de nivel empresarial. “Trata a los agentes como sistemas regulados”, afirma Gurtu. “Realiza cambios en entornos de pruebas y prueba a los agentes en simulaciones”.

Otra capa fundamental es la observabilidad. En el caso de los sistemas de agentes, esta debe ir más allá de la monitorización tradicional o la detección de fallos para captar señales avanzadas, como por qué fallaron los agentes o por qué eligieron determinadas acciones en lugar de otras. “La observabilidad debe integrarse desde el primer día”, afirma Kussberg, de Sonar. “Se necesita transparencia en cada paso de la ejecución: indicaciones, llamadas a herramientas, decisiones intermedias y resultados finales”. Con comportamientos de los agentes más observables, se puede mejorar el sistema de forma continua con el tiempo. “La transparencia impulsa la mejora”, dice Kussberg.

Casi todos los expertos coinciden: proporcionar a los agentes de IA datos mínimos y relevantes es mucho mejor que una sobrecarga de datos. Eso es fundamental para evitar saturar las ventanas de contexto y degradar la calidad de los resultados. “Una curación de datos bien pensada es más importante que el volumen de datos”, dice Brosamer. “La calidad de la salida de un agente está directamente ligada a la calidad de su contexto”.

“Los sistemas de agentes no necesitan más datos, necesitan los datos correctos en el momento adecuado”, dice Kussberg, de Sonar. “Los sistemas eficaces proporcionan a los agentes herramientas de descubrimiento versátiles y les permiten ejecutar bucles de recuperación hasta que determinan que disponen de suficiente contexto”. “La entrega de contexto justo a tiempo es clave”, según McNamara. “En lugar de sobrecargar la solicitud del sistema, devolvemos el contexto relevante junto con los datos de la herramienta cuando es necesario”. Otros señalan que el contexto también debería incluir matices semánticos, dice Kovi. “Si un agente no sabe que ‘usuarios activos’ significa algo diferente en producto frente a marketing, dará respuestas erróneas con total seguridad”. “Eso es difícil de detectar”.