Deepfakes en América Latina: un reto legal y tecnológico

La amenaza de los deepfakes en América Latina crece sin una respuesta efectiva. A pesar del aumento en el contenido manipulado mediante inteligencia artificial, la región avanza lentamente en regulación y tecnología para combatir los efectos democráticos, financieros y sociales que estas herramientas implican.

Según el informe de la plataforma Kapwing, países como Argentina, Chile, Perú y Colombia presentan un creciente interés en este fenómeno, con más de 140 búsquedas mensuales en este último. Sin embargo, como advierte el Dr. Francisco José Adán Castaño, docente de la Maestría en Derecho Digital y Ciberseguridad de la Universidad Internacional de Valencia (VIU), la preocupación no se traduce aún en acciones contundentes.

“Los políticos son probablemente los más perjudicados. Videos falsos de candidatos justo antes de unas elecciones... es una pesadilla para la democracia”, señala el experto.

Legislaciones obsoletas ante un problema sin fronteras

La regulación jurídica en América Latina no está preparada para enfrentar los efectos de los deepfakes. Las normativas actuales, basadas en delitos como difamación o fraude, resultan ineficaces frente a una tecnología que evoluciona más rápido que las leyes.

“Internet no tiene fronteras. ¿Qué ley se aplica, la del país donde se hizo, donde se subió o donde se vio?”, cuestiona el especialista de VIU.

La falta de formación en temas digitales por parte de jueces y policías acentúa la debilidad estructural. La combinación entre vacíos normativos y escasa preparación técnica coloca a gobiernos e instituciones en desventaja frente a esta amenaza emergente.

IA contra IA: la carrera por detectar lo falso

El avance de los deepfakes ha dado lugar a una batalla tecnológica donde algoritmos de machine learning se entrenan para detectar contenidos falsos con precisión milimétrica. Algunos modelos identifican patrones de parpadeo o distorsión lumínica imperceptibles al ojo humano.

También se exploran soluciones como la autenticación vía blockchain, que registraría cada video desde su origen para evitar manipulaciones. En el caso del audio, los algoritmos analizan patrones vocales, pausas y respiración para identificar si una voz fue clonada.

Una solución que exige cooperación regional

El combate contra los deepfakes exige una estrategia integral. No bastan las tecnologías aisladas ni regulaciones nacionales. Se requiere colaboración entre gobiernos, empresas tecnológicas, plataformas digitales, universidades y ciudadanía.

“Los gobiernos necesitan leyes aplicables en la práctica y capacitar a su gente. Las plataformas deben invertir en detección y la sociedad civil educarse para identificar lo falso”, concluye el vocero de VIU.

Los medios de verificación de hechos están haciendo un trabajo relevante, pero la alfabetización digital masiva aún está pendiente. Las universidades, además, tienen el reto de liderar procesos de investigación y formación en tecnologías disruptivas como esta.