Agentes de IA: el reto no es adoptarlos, sino gobernarlos

Índice de contenidos

• 1. De asistentes que responden a agentes que actúan
• 2. El riesgo aparece cuando la adopción avanza más rápido que el gobierno
• 3. Zero Trust también debe aplicarse a los agentes de IA
• 4. La seguridad de la IA ya es una decisión de negocio
• 5. Cinco preguntas antes de implementar un agente de IA
• 6. La observabilidad como respuesta de negocio
• 7. El papel de las personas no desaparece, evoluciona
• 8. Hacia una Empresa Autónoma, pero no fuera de control
• 9. La pregunta que toda empresa necesita responder

Hoy, los agentes de IA pueden participar en procesos de ventas, finanzas, atención al cliente, operaciones y seguridad. Pueden consultar datos, ejecutar tareas y colaborar con personas y otros sistemas. De hecho, Microsoft Source Latinoamérica señala que más del 80% de las empresas Fortune 500 utiliza agentes activos desarrollados mediante herramientas low-code y no-code.

Esta evolución abre oportunidades importantes para las organizaciones. También plantea una pregunta que no siempre se hace a tiempo:

La conversación ya no debería limitarse a qué herramienta de inteligencia artificial utilizar. El verdadero desafío empresarial es construir las condiciones necesarias para que los agentes puedan operar de forma segura, visible y controlada.

De asistentes que responden a agentes que actúan

Durante la primera etapa de adopción de la inteligencia artificial generativa, las personas interactuaban directamente con una herramienta: hacían una consulta, recibían una respuesta y decidían qué hacer con ella.

Los agentes de IA modifican esa dinámica.

En lugar de limitarse a generar una recomendación, pueden recibir un objetivo, analizar información y ejecutar determinadas acciones dentro de los límites definidos por la organización.

Pensemos, por ejemplo, en un agente comercial que ayuda a identificar oportunidades, organizar información del CRM y preparar los siguientes pasos para el equipo de ventas. O en un agente de servicio que clasifica solicitudes, consulta antecedentes y facilita una respuesta.

El valor no está únicamente en automatizar una tarea. Está en conectar datos, aplicaciones y decisiones para que los procesos avancen con mayor continuidad. Sin embargo, cuanto más participa un agente en la operación, mayor debe ser la claridad sobre su función.

No todos los agentes deberían acceder a la misma información. Tampoco deberían contar con permisos amplios por defecto ni ejecutar decisiones sensibles sin supervisión. La autonomía sin límites no representa madurez tecnológica. Representa un riesgo.

El riesgo aparece cuando la adopción avanza más rápido que el gobierno

El problema no es que las empresas incorporen agentes de IA rápidamente. El problema aparece cuando estos comienzan a multiplicarse sin que la organización tenga visibilidad completa sobre ellos.

Un agente puede haber sido creado para resolver una necesidad específica, pero sus permisos, conexiones y acciones también forman parte de la superficie de riesgo empresarial. Por eso, antes de escalar su adopción, una organización necesita poder responder con claridad:

• ¿Qué agentes están activos?
• ¿Quién es responsable de cada uno?
• ¿A qué datos y aplicaciones pueden acceder?
• ¿Qué acciones tienen permitido ejecutar?
• ¿Cómo se supervisa su actividad?
• ¿Qué decisiones requieren aprobación humana?
• ¿Qué ocurre cuando un agente deja de ser necesario?

Si estas respuestas no existen, la empresa puede conseguir automatización, pero no necesariamente control.

Microsoft Source Latinoamérica advierte que los agentes pueden escalar más rápido de lo que algunas organizaciones consiguen observarlos y que esa brecha de visibilidad representa un riesgo empresarial. La recomendación es tratar a los agentes bajo estándares de seguridad comparables a los aplicados a empleados o cuentas de servicio.

Zero Trust también debe aplicarse a los agentes de IA

Los principios de Zero Trust parten de una idea sencilla: ninguna identidad, dispositivo o sistema debe recibir confianza automática. Este enfoque cobra una relevancia especial cuando hablamos de agentes capaces de operar de forma continua y a gran velocidad.

Existen tres principios fundamentales para protegerlos:

1. Acceso con el menor privilegio

Cada agente debería contar únicamente con los permisos indispensables para cumplir su función. Si su objetivo es consultar determinados registros para preparar una recomendación, no necesariamente necesita modificarlos, eliminarlos o acceder a otras áreas de información. Limitar los permisos reduce la exposición y ayuda a contener el impacto de un posible error o compromiso.

2. Verificación explícita

Cada solicitud de acceso debe ser evaluada. Esto implica verificar quién o qué intenta utilizar un recurso, bajo qué contexto y con qué nivel de riesgo. La identidad de un agente no debería considerarse confiable simplemente porque pertenece al entorno de la organización.

3. Asumir que puede producirse un compromiso

Una arquitectura segura no se construye bajo la idea de que nada saldrá mal. Debe estar preparada para detectar comportamientos inesperados, limitar su impacto y permitir una respuesta oportuna.

Estos principios no son nuevos para los equipos de ciberseguridad. Lo que cambia es el tipo de identidad al que deben aplicarse. Ahora también existen identidades no humanas que consultan información, interactúan con sistemas y participan en procesos empresariales. Por ello, la identidad, los permisos y la supervisión de los agentes deben considerarse desde el momento de su diseño, no después de su implementación.

La seguridad de la IA ya es una decisión de negocio

La ciberseguridad suele tratarse como una responsabilidad técnica. Sin embargo, su impacto alcanza directamente la continuidad operativa, la reputación y la capacidad de crecimiento de una empresa.

Un estudio presentado por Microsoft Source Latinoamérica indica que el 65% de las grandes empresas mexicanas considera las amenazas de ciberseguridad como un desafío tangible y actual. A pesar de ello, solo el 56% señala que existe involucramiento de la alta dirección en esta materia.

La brecha también se observa en el nivel de preparación. Únicamente el 38% de los especialistas de TI consultados considera que su organización está altamente preparada para afrontar amenazas digitales, mientras que el 43% se percibe moderadamente preparado.

Estos datos muestran una contradicción importante: las organizaciones reconocen que el riesgo está creciendo, pero no siempre lo acompañan con la participación ejecutiva y el nivel de preparación necesarios. Con la llegada de los agentes de IA, esa brecha puede hacerse más visible.

Las decisiones sobre qué puede hacer un agente, qué información puede utilizar y qué procesos puede afectar no corresponden únicamente al área de TI. Requieren la participación coordinada de negocio, seguridad, datos, cumplimiento y desarrollo. No se trata de frenar la innovación. Se trata de evitar que la tecnología avance desconectada de los objetivos, las responsabilidades y los límites de la empresa.

Cinco preguntas antes de implementar un agente de IA

Antes de incorporar un nuevo agente dentro de un proceso empresarial, conviene evaluar cinco aspectos.

1. ¿Qué problema de negocio resolverá?

Crear un agente porque la tecnología está disponible no garantiza que aporte valor. Debe existir un objetivo concreto: reducir tiempos de respuesta, mejorar la calidad de la información, facilitar el seguimiento de oportunidades, disminuir tareas repetitivas o ayudar a los equipos a tomar decisiones con mayor contexto.

2. ¿Qué información necesita realmente?

No todos los datos disponibles son necesarios. La organización debe identificar las fuentes específicas que el agente requiere y diferenciar entre permisos de consulta, modificación y ejecución. El acceso debe responder a su función, no a la comodidad de conectarlo con todo el entorno.

3. ¿Qué acciones puede ejecutar?

Consultar información no representa el mismo nivel de riesgo que modificar un registro, enviar una comunicación o iniciar un proceso. Las acciones posibles deben clasificarse según su impacto. Las decisiones críticas, sensibles o irreversibles deberían conservar mecanismos claros de revisión y autorización.

4. ¿Cómo se observará su comportamiento?

Un agente no debería convertirse en una operación invisible. La empresa necesita conocer qué información consulta, qué acciones ejecuta y cuándo se presentan comportamientos fuera de lo esperado. La observabilidad permite detectar riesgos, corregir desviaciones y evaluar si el agente realmente está cumpliendo su propósito.

5. ¿Quién conserva la responsabilidad?

Delegar una tarea a un agente no elimina la responsabilidad empresarial. Cada agente debería tener una función definida y una persona o equipo responsable de supervisar su desempeño, revisar sus permisos y decidir cuándo debe modificarse o retirarse.

La observabilidad como respuesta de negocio

La observabilidad no significa supervisar manualmente cada acción. Significa contar con información suficiente para comprender el comportamiento del agente, detectar anomalías y tomar decisiones oportunas. También permite responder preguntas de negocio:

• ¿El agente está generando el resultado esperado?
• ¿Está reduciendo tiempos o únicamente trasladando tareas?
• ¿Requiere más información o tiene permisos excesivos?
• ¿En qué momentos necesita intervención humana?
• ¿Continúa siendo útil para el proceso?

La seguridad y la generación de valor no son conversaciones separadas. Un agente que no puede observarse difícilmente puede mejorarse, escalarse o considerarse confiable.

El papel de las personas no desaparece, evoluciona

Hablar de agentes autónomos puede generar la impresión de que las personas dejarán de participar en los procesos. En realidad, el objetivo debería ser diferente.

Los agentes pueden asumir tareas repetitivas, reunir información y acelerar determinadas acciones. Las personas conservan la responsabilidad de definir objetivos, establecer límites, revisar excepciones y tomar decisiones que requieren criterio, contexto y responsabilidad.

La supervisión humana tampoco debe añadirse de manera genérica. Debe diseñarse de acuerdo con el riesgo de cada proceso. Una consulta de información puede requerir un nivel bajo de intervención. Una modificación financiera, una comunicación externa o una decisión que afecte a un cliente necesita controles diferentes.

El reto está en identificar qué puede delegarse, bajo qué condiciones y en qué momento debe intervenir una persona. La IA no reemplaza las decisiones. Las acelera cuando existen datos confiables, responsabilidades claras y controles adecuados.

Hacia una Empresa Autónoma, pero no fuera de control

La evolución hacia la Empresa Autónoma no consiste en automatizar cada tarea ni en permitir que los agentes actúen sin restricciones. Consiste en construir una organización capaz de conectar personas, datos, aplicaciones y agentes para que los procesos avancen con mayor inteligencia y continuidad.

Para conseguirlo, la estrategia de IA debe desarrollarse al mismo ritmo que cinco capacidades fundamentales:

• Gobierno de datos.
• Gestión de identidades.
• Control de accesos.
• Observabilidad de los agentes.
• Supervisión y responsabilidad humana.

Sin estos elementos, una empresa podría desplegar más tecnología sin lograr una operación verdaderamente más inteligente. Con ellos, los agentes pueden convertirse en una extensión confiable de los equipos: ayudan a procesar información, reducen fricción operativa y permiten que las personas concentren su atención en decisiones de mayor valor.

La pregunta que toda empresa necesita responder

Los agentes de IA seguirán incorporándose a los procesos empresariales. La ventaja competitiva, por tanto, no estará simplemente en quién implemente más agentes o quién los active primero. Estará en las organizaciones capaces de utilizarlos con un propósito claro, datos confiables y límites coherentes con el nivel de riesgo.

Por eso, antes de preguntarse qué agente implementar, las empresas deberían plantearse algo más importante:

¿Estamos preparados para gobernar las acciones que estamos dispuestos a delegar?

Porque el futuro de la inteligencia artificial empresarial no dependerá únicamente de lo que los agentes sean capaces de hacer. Dependerá de la claridad con la que cada organización decida qué deberían poder hacer, bajo qué condiciones y con qué responsabilidad.