Deepfakes: el lado oscuro de la IA y su poder para distorsionar la realidad

El texto de la columna invitada del 7 de Octubre de 2025 aborda el creciente problema de los deepfakes, contenidos sintéticos generados con Inteligencia Artificial (IA) que difuminan la línea entre realidad y simulación. El autor, el Dr. Julio César Bonilla Gutiérrez, Comisionado Ciudadano del INFO CDMX y académico de la UNAM, analiza los riesgos, las medidas que se están tomando y la necesidad de un enfoque integral que combine tecnología, legislación y responsabilidad ciudadana para combatir este fenómeno.

Un dato importante es que la creación de deepfakes se ha vuelto rápida, barata y accesible, democratizando las herramientas de fraude y desinformación.

📝 Puntos clave

• Los deepfakes son contenidos sintéticos (video, audio, imagen) manipulados con IA para crear representaciones falsas pero realistas de personas.
• Se mencionan ejemplos como la suplantación de Tom Cruise en TikTok, llamadas con clonación de voz y el uso de deepfakes de Elon Musk y Lionel Messi en anuncios engañosos.

• Publicidad
• El mayor riesgo radica en el acceso a datos personales y la facilidad con la que se pueden usar para engañar, dañar reputaciones y manipular procesos políticos.
• Empresas como Meta, X, Microsoft y Google están implementando medidas para etiquetar o retirar contenidos sintéticos.
• Países como Estados Unidos, la Unión Europea y Corea del Sur están estableciendo leyes para sancionar la creación y distribución de deepfakes.
• La lucha contra los deepfakes requiere un enfoque integral que combine tecnología, legislación y responsabilidad ciudadana, incluyendo la verificación de la información.
• El INFO CDMX, en coordinación con la Facultad de Derecho de la UNAM, realizó un seminario sobre IA, ética y derecho para fortalecer la conciencia digital.
• Se necesita cooperación internacional, leyes claras y educación para proteger el derecho a la verdad, la privacidad y los datos personales.

Lo malo y lo bueno 👎👍

¿Cuál es el aspecto más preocupante del texto sobre los deepfakes?

La democratización de las herramientas para crear deepfakes, lo que significa que cada vez es más fácil y barato para cualquier persona generar contenido falso y engañoso, con el potencial de causar un daño significativo a individuos, organizaciones y la sociedad en general.

¿Qué aspecto positivo se destaca en el texto en relación con la lucha contra los deepfakes?

El enfoque integral que se propone, que combina la acción de empresas tecnológicas, la regulación gubernamental y la responsabilidad individual, incluyendo la verificación de la información y la educación para fortalecer la capacidad crítica.