La IA obliga a replantear la gobernanza del desarrollo de software

La incorporación de agentes de inteligencia artificial en el desarrollo de software está modificando la forma en que las organizaciones supervisan sus sistemas tecnológicos. La capacidad de estos modelos para escribir código, acceder a plataformas empresariales y ejecutar tareas de manera autónoma está generando nuevos retos de gobernanza, trazabilidad y control que los esquemas tradicionales de seguridad no contemplaban.

Según NYXN, compañía especializada en IA agéntica para grandes corporativos en Latinoamérica, la aceleración de los ciclos de desarrollo ha ampliado la distancia entre la velocidad con la que operan los sistemas de inteligencia artificial y la capacidad de las empresas para auditar sus decisiones, supervisar su comportamiento y verificar el cumplimiento de criterios regulatorios y corporativos.

"El desafío que enfrentan hoy las organizaciones, más allá de desarrollar software más rápido, es garantizar que los sistemas que están construyendo, muchos de ellos capaces de actuar de forma autónoma, puedan ser supervisados, auditados y gobernados en todo momento", afirmó David Casillas, Chief Technology Officer de NYXN.

El directivo agregó que, cuando un agente de IA tiene acceso a sistemas empresariales y ejecuta tareas sin intervención humana directa, resulta indispensable conocer qué acciones realiza, bajo qué criterios opera y cómo puede reconstruirse el historial de una decisión en caso de una falla.

Como respuesta a este escenario, la compañía desarrolló Forge by NYXN, una capa tecnológica orientada a fortalecer la gobernanza de ecosistemas de agentes de inteligencia artificial. La metodología busca mantener el control operativo sin afectar la velocidad de innovación y se apoya en cinco principios:

• Incorporar la seguridad desde el diseño de la arquitectura y no como una etapa posterior.
• Establecer mecanismos de gobernanza específicos para agentes autónomos.
• Desarrollar capacidades de control y trazabilidad acordes con el nivel de autonomía delegado a la IA.
• Gestionar simultáneamente la innovación y el riesgo tecnológico.
• Garantizar visibilidad permanente sobre el comportamiento de sistemas complejos como requisito de gobernanza.

Para Daniel Villa Camacho, CEO de NYXN, la discusión sobre la supervisión de la inteligencia artificial será prioritaria a medida que las organizaciones incrementen la adopción de agentes autónomos.

"Resolver la gobernanza de los sistemas de inteligencia artificial antes de escalarlos será una de las discusiones más importantes dentro de las organizaciones durante los próximos años", señaló Villa Camacho. Añadió que el potencial de esta tecnología dependerá tanto de su capacidad para automatizar procesos como de la posibilidad de supervisar, auditar y controlar sistemas cada vez más autónomos.

La expansión de la IA en el desarrollo de software traslada el debate desde la productividad hacia la capacidad de las organizaciones para mantener control y trazabilidad sobre sistemas que operan con mayor autonomía, un aspecto que puede influir en la gestión del riesgo tecnológico y el cumplimiento regulatorio conforme aumenta la adopción de estas tecnologías.