Confianza en la IA generativa crece, pese a fallas en seguridad y gobernanza

La confianza en la inteligencia artificial generativa aumenta en las organizaciones de todo el mundo, incluso cuando persisten deficiencias en seguridad y gobernanza. Así lo confirma el informe IDC Data and AI Impact Report: The Trust Imperative, encargado por SAS, que advierte sobre una paradoja: mientras la percepción positiva de la IA se dispara, las inversiones en prácticas responsables avanzan lentamente.

El fenómeno de la confianza en la IA generativa

El estudio, que encuestó a 2.375 líderes de TI y negocio en Norteamérica, Latinoamérica, Europa, Medio Oriente, África y Asia-Pacífico, muestra que el 48% de los participantes declara plena confianza en la IA generativa, frente al 18% que confía en la IA tradicional.

Según Kathy Lange, directora de investigación en IDC, “las formas de IA con interacción humana y familiaridad social generan mayor confianza, independientemente de su fiabilidad o precisión real”. Este hallazgo plantea un reto para las organizaciones: ¿la IA generativa es realmente confiable o simplemente inspira confianza?

Brecha entre confianza y prácticas responsables

Aunque 78% de las empresas afirma confiar en la IA, solo el 40% ha invertido en gobernanza, explicabilidad y medidas éticas que garanticen confiabilidad real. De hecho, apenas un 2% de los encuestados considera prioritaria la creación de marcos de gobernanza de IA, y menos del 10% ha desarrollado políticas de IA responsable.

El informe revela que las organizaciones que sí invierten en prácticas responsables tienen 60% más probabilidades de duplicar el retorno de la inversión (ROI), lo que demuestra que la confianza sin acción puede limitar el verdadero impacto empresarial.

Obstáculos: datos, gobernanza y talento

La investigación identifica tres grandes frenos en la implementación de IA confiable:

• Infraestructuras de datos débiles (49%).

• Procesos insuficientes de gobernanza de datos (44%).

• Escasez de talento especializado en IA (41%).

La dificultad para acceder a fuentes de datos relevantes (58%), la privacidad (49%) y la calidad de los datos (46%) también aparecen como barreras recurrentes.

“Por el bien de la sociedad y las organizaciones, la confianza en la IA es imprescindible. Para lograrlo, debemos aumentar la tasa de éxito de las implementaciones y capacitar a las personas para trabajar con esta tecnología”, subrayó Bryan Harris, CTO de SAS.

Tendencias emergentes: agentes de IA y computación cuántica

El estudio destaca que los agentes de IA y la IA cuántica empiezan a generar confianza entre los líderes empresariales. Un tercio de los encuestados declaró plena confianza en los agentes de IA, mientras que un 26% expresó lo mismo sobre la IA cuántica, a pesar de que su aplicación práctica aún es incipiente.

El auge de la confianza en la IA generativa refleja tanto su cercanía cultural como su impacto disruptivo en los negocios. Sin embargo, la brecha entre percepción y prácticas responsables plantea riesgos significativos. Para capitalizar realmente el potencial de la IA, las organizaciones deberán cerrar la distancia entre confianza y gobernanza, priorizando políticas éticas, gestión de datos robusta y desarrollo de talento especializado.