La semana pasada publiqué 6 reels en TikTok, Instagram y YouTube, con los que demostré lo fácil que se puede hacer un deepfake con IA actualmente. Y gratis, más encima (al menos hasta la fecha).
Los videos se hicieron virales, superando el millón de vistas en Instagram y TikTok, en el caso del más visto. Los demás acumularon entre decenas y cientos de miles de vistas.
Aunque etiqueté todos los videos como “hechos con IA” en todas las redes sociales (incluyendo también en la descripción el mensaje explícito de que se trataba de videos hechos con IA y mencionando cuáles), muchísima gente, quizás un 20%, pensó que se trataba de videos reales, siendo incapaces de distinguir el deepfake.
Para hacer los videos usé como referencia imágenes del presidente de Chile, José Antonio Kast, y la vocera de Gobierno, Mara Sedini. Luego publiqué también un tutorial en mi canal de YouTube (compartido al final de este texto). No lo hice para fomentar el mal uso, sino para que quede claro lo que ya es posible, y lo fácil que resulta. Esto debería motivar no solo la toma de conciencia, sino también la regulación.
El deepfake de imagen ya es alarmante; el de voz es directamente impresionante
Clonar una voz hoy toma segundos, cuesta poco o nada, y el resultado es convincente de una forma que cuesta creer hasta que lo escuchas. Y estamos hablando de herramientas disponibles para cualquier persona con conexión a Internet.
Lo de la voz es clave en los deepfake, porque muchas veces las personas pasan por alto los movimientos un poco robóticos o poco fluidos de un avatar parlante generado con IA porque la voz es idéntica a la original. Y viendo videos en un teléfono se hace aún más fácil caer en el engaño.
De hecho, el video que más se viralizó de los 6 que hice fue uno que ni siquiera recoge de la mejor manera los rasgos de la imagen de referencia de Mara Sedini. Pero como la voz se escucha tan real, muchos creen que es ella.
El año pasado ya había publicado un video sobre clonación de voz con Inteligencia Artificial. En esa ocasión usé la voz de Pedro Pascal y el impacto no fue mucho. Por eso ahora quise usar las voces del presidente de Chile y la vocera, para generar más impacto. Creo que se hace necesario empezar a implementar leyes específicas relacionadas con las posibilidades que ofrece la Inteligencia Artificial hoy, y apelo a que los encargados de las políticas públicas tomen cartas en el asunto.
