Elon Musk compartió un video en X (antes Twitter) con una voz generada por inteligencia artificial (IA) que imita a la candidata presidencial demócrata Kamala Harris. Musk no indicó que el video era falso o una parodia.
El video usa IA para copiar la voz de Harris, haciendo que la vicepresidenta diga cosas que no dijo en el video original. La voz falsa de Harris, engañosamente real, afirma que el presidente Biden está senil, que ella no tiene idea de cómo dirigir el país, y que es la “contratación definitiva por diversidad” por ser mujer y persona de color.
Además del audio, las imágenes también fueron alteradas: se quitaron fotos del expresidente Donald Trump y su compañero de fórmula JD Vance, y se reemplazaron con imágenes del presidente Biden.
El creador del video, el usuario de X “@MrReaganUSA”, lo etiquetó como una “parodia de anuncio” en su publicación original. Pero Musk compartió el video sin el aviso de parodia, diciendo “Esto es increíble”, seguido de un emoji de risa. El video ya tiene más de 100 millones de vistas.
El video parece violar las reglas de X, que dicen que los contenidos sintéticos que han sido “alterados, manipulados o fabricados de manera significativa y engañosa” deben ser marcados o eliminados.
Esta regla se aplica a videos que “probablemente causen confusión generalizada sobre temas públicos, afecten la seguridad pública o causen daños graves”, y se supone que debe aplicarse especialmente si los videos fueron manipulados con algoritmos de IA. “@MrReaganUSA” confirmó en X que había usado IA para clonar la voz de Kamala Harris.
La manipulación de medios con IA, especialmente para influir en la opinión pública, es frecuentemente mencionada como un gran riesgo de las tecnologías actuales de IA. Esto debilita la confianza en los contenidos de audio y video.
X aún no ha respondido sobre el video. La publicación de Musk no ha sido corregida visiblemente a través de “Notas de la comunidad”, el sistema de verificación de hechos de X manejado por usuarios, y Musk no ha hablado públicamente sobre las críticas por compartir el video falso.
Después de un informe del New York Times, “@MrReaganUSA” publicó que había marcado claramente el video como una parodia. Él cree que Elon Musk ni siquiera pensó que podría confundirse con un anuncio de campaña real debido a la sátira obvia.
Los deepfakes de audio con IA han avanzado rápidamente en el último año. Ahora, muchas herramientas comerciales y de código abierto pueden crear copias realistas de voces que repiten un texto dado con la voz de una persona específica.
Aunque la clonación de voz tiene algunos usos positivos, como ayudar a quienes han perdido la voz, su potencial para el mal uso parece mucho mayor. El ejemplo de Harris es solo una prueba más de esto.
