La discreta pelea de Youtube contra las deepfake

El texto, escrito por Arturo Manzano Nieto el 12 de septiembre de 2024, analiza el impacto de las deepfake en el ámbito del espectáculo y la política, y las medidas que plataformas como YouTube están tomando para combatirlas.

Resumen

• Las deepfake, que utilizan la Inteligencia Artificial (IA) para modificar imágenes y voces, han afectado a figuras como Taylor Swift en Estados Unidos y Claudia Sheinbaum en México.
• Taylor Swift fue víctima de la pornificación de su imagen en X, mientras que Claudia Sheinbaum denunció el uso de su voz e imagen para promover una plataforma financiera fraudulenta.

• Publicidad
• YouTube está implementando dos herramientas para combatir las deepfake:
  • Un identificador de canto sintético que detecta contenido generado por IA que simula voces de canto.
  • Una nueva tecnología que permite a creadores, actores, músicos y atletas detectar y administrar contenido generado por IA que muestra sus rostros.
• La plataforma OpenAI está desarrollando GPT-4o, una tecnología que permite clonar la voz de cualquier persona con una grabación de 30 segundos.
• Las deepfake representan un riesgo de difamación y acoso, y diluyen la línea entre lo auténtico y lo falso.

Conclusión

El texto destaca la creciente amenaza de las deepfake y la necesidad de que plataformas como YouTube tomen medidas para combatirlas. Aunque la tecnología avanza rápidamente, las iniciativas de YouTube son un paso positivo para proteger a las personas de la usurpación de identidad y la desinformación.