Agentes de IA: las empresas enfrentan nuevos riesgos al automatizar decisiones

Los agentes de IA en empresas están evolucionando desde herramientas que responden preguntas hacia sistemas capaces de consultar bases de datos, interactuar con aplicaciones y ejecutar tareas sin intervención humana constante. Esta transformación plantea nuevos desafíos de seguridad, acceso a información y responsabilidad corporativa.

En Colombia, la adopción todavía enfrenta barreras. Según el estudio Colombia AI Pulse, publicado por Endeavor Colombia en agosto de 2026, el 61% de las empresas consultadas considera la inteligencia artificial una prioridad estratégica, pero el 93,5% permanece en etapas de exploración y desarrollo.

Apenas el 0,2% de las organizaciones analizadas alcanza niveles avanzados de madurez en esta tecnología.

Agentes de IA en empresas: ¿cuáles son los principales riesgos?

A diferencia de los asistentes tradicionales, los agentes de inteligencia artificial pueden realizar acciones dentro de los sistemas empresariales, lo que exige controles sobre sus permisos y decisiones.

Una encuesta de Cloud Security Alliance, citada por Noventiq, encontró que el 82% de las organizaciones consultadas tenía agentes de IA desconocidos operando en sus entornos tecnológicos.

“Ya no basta con preguntarnos si la IA responde correctamente, sino qué puede hacer, a qué puede acceder y qué ocurre si toma una decisión equivocada”, afirmó César Tejada, gerente general de Noventiq Colombia.

El principal riesgo aparece cuando los sistemas tienen permisos excesivos para modificar registros, acceder a información confidencial o ejecutar operaciones financieras sin controles adecuados.

Cinco medidas para implementar agentes de IA de forma segura

Noventiq identifica cinco condiciones que las empresas deberían establecer antes de incorporar agentes autónomos a sus operaciones:

1. Identidad digital: asignar una identidad propia a cada agente y establecer un responsable de su operación.
2. Gobierno de datos: identificar qué información puede consultar y bajo qué condiciones.
3. Permisos limitados: aplicar el principio de mínimo privilegio para restringir sus acciones a las funciones autorizadas.
4. Monitoreo y trazabilidad: registrar las operaciones para detectar comportamientos anómalos y reconstruir decisiones.
5. Supervisión humana: exigir autorizaciones para operaciones sensibles y disponer de mecanismos para detener agentes cuando sea necesario.

Estas medidas deben acompañar todo el ciclo de vida de los sistemas, incluida la modificación de permisos y su eventual desactivación.

La responsabilidad empresarial no se puede automatizar

La mayor autonomía de la IA obliga a las organizaciones a revisar sus modelos de gestión tecnológica y control interno.

Un agente que consulta documentos no requiere los mismos niveles de autorización que otro capaz de aprobar pagos o modificar información de clientes.

“Podemos delegar la ejecución, pero no podemos delegar la responsabilidad empresarial”, señaló César Tejada.

Para Noventiq, la adopción segura requiere integrar preparación tecnológica, protección de datos y monitoreo continuo de las operaciones.

El desafío para las compañías será aprovechar las oportunidades de productividad de la inteligencia artificial sin perder el control sobre sus decisiones. A medida que los agentes adquieren mayores capacidades, la gobernanza se convierte en una responsabilidad directa de la alta dirección.