Lisa y Song Hye Kyo: el escándalo de deepfake afecta a ídolos y celebridades del K-Pop y genera alarma a nivel nacional

En la actualidad, un grupo de chat de Telegram ha causado indignación y confusión generalizadas al distribuir imágenes sensibles de mujeres, incluidos videos en los que se editaban los rostros de ídolos femeninas del K-pop en películas para adultos. El grupo ha sido expuesto y se han revelado más de 212.000 miembros. Este incidente ha sacado a la luz el problema de los deepfakes en Corea del Sur, lo que pone de relieve las peligrosas consecuencias que surgen cuando los delincuentes utilizan esta tecnología con fines maliciosos.

Según un informe de Security Hero, Corea del Sur ha sido identificada como el país líder en la difusión ilícita de material pornográfico en Internet. Tras estudiar 96.000 vídeos de 10 sitios web de pornografía deepfake y 85 canales deepfake en plataformas de intercambio de vídeos durante dos meses, se reveló que el 53% de las personas que aparecen en estos vídeos son cantantes y actores coreanos populares.

sakura le sserafim deepfake — Sakura de LE SSERAFIM y una foto editada para incluirla en contenido pornográfico utilizando tecnología Deepfake.

El problema de los deepfakes ha persistido durante muchos años desde que surgió esta tecnología y su imprevisibilidad no ha hecho más que crecer. Numerosas personas famosas han sido víctimas de los deepfakes.

Deepfake se refiere a una técnica de IA (inteligencia artificial) que sustituye digitalmente el rostro de un individuo por el de otro.

Minji (NewJeans) es la ídolo femenina con más ataques criminales de Deepfake

Según las estadísticas, Minji (NewJeans) tiene el récord de ser el ídolo con la mayor cantidad de imágenes y videos Deepfake producidos cada mes, con un total de más de 17 000. Esta preocupante estadística destaca los riesgos potenciales de la tecnología Deepfake en manos de delincuentes para actividades nefastas.

nuevos jeans minji 090324 — Minji (NewJeans) es la ídolo femenina más atacada por los criminales de Deepfake.

ADOR, la empresa de gestión de NewJeans, emitió un comunicado en junio de 2024 en respuesta a la situación: “La distribución de contenido pornográfico manipulado con nuestros artistas tiene graves consecuencias para nuestra empresa”. También declararon que han emprendido acciones legales y están decididos a luchar contra los criminales de Deepfake para salvaguardar a sus artistas.

minji jeans — La fama y belleza de Minji (NewJeans) están siendo explotadas para crear una gran cantidad de productos pornográficos Deepfake. Esto es extremadamente peligroso para los ídolos, ya que tanto su imagen como su dignidad se ven gravemente dañadas.

Vídeos deepfake contra Lisa (BLACKPINK): intentos de empañar su imagen

A finales de 2023, se habló mucho en las redes sociales sobre Lisa (BLACKPINK) quitándose la ropa durante una actuación en el Crazy Horse Show en París, Francia. Las imágenes se volvieron virales rápidamente en múltiples plataformas, incluidos sitios web para adultos.

deepfake de lisa blackpink — Un fotograma de un vídeo Deepfake que podría haber arruinado la carrera de Lisa.

A pesar de las reacciones encontradas por su actuación en un club nocturno, Lisa fue exonerada por la aplicación de detección de deepfakes desarrollada por KAIST (Instituto Avanzado de Ciencia y Tecnología de Corea). La aplicación analizó el video y demostró que era un producto editado. Es fundamental señalar que si el video no se hubiera aclarado, la carrera de Lisa podría haber resultado gravemente dañada debido a la difamación.

Yoona y otros ídolos del K-pop afectados por la tecnología deepfake

En 2017, Deepfake surgió como un tema destacado en la industria tecnológica. Sin embargo, en 2018, ya había causado daños, ya que Yoona y numerosos ídolos del K-pop fueron objeto de ataques y aparecieron en sitios web pornográficos con sus nombres en los titulares, obteniendo millones de visitas.

Tan pronto como surgió la tecnología Deepfake, numerosas figuras conocidas del K-pop como Yoona, Red Velvet, TWICE, SNSD, IU, AOA, Suzy, Chungha, GFRIEND, Apink, Girl’s Day, Hani, BLACKPINK, Weki Meki Doyeon, PRISTIN Kyulkyung, MAMAMOO y Oh My Girl se convirtieron en objetivos.

A pesar de los esfuerzos de numerosos artistas, representantes y empresas de representación por denunciarlo, los delitos de deepfake siguen persistiendo, lo que genera preocupación por la difamación de los artistas y el empañamiento de su imagen. La cantidad de videos e imágenes pornográficas editadas en Internet también sigue aumentando.

Soy Yoon Ah Deepfake — Yoona y muchas artistas femeninas se convirtieron en víctimas de Deepfake.

Yujeong – Chicas valientes

En febrero de 2024, durante una aparición en un programa de tvN, Yujeong de Brave Girls compartió que había sido víctima de Deepfake. Expresando su frustración, Yujeong declaró: “Solo me enteré de esto después de que alguien que conozco me lo informó. Es alarmante pensar que cualquier persona, independientemente de su género, pueda ser víctima de esto”.

Deepfake de chicas valientes de Yujeong — Yujeong (Brave Girls) dijo que estaba extremadamente enojada y asustada cuando descubrió que era víctima de Deepfake.

Song Hye Kyo: otra víctima de los deepfakes

En 2020, hubo una gran conmoción entre los fanáticos de Song Hye Kyo y muchos espectadores cuando una serie de imágenes «sensibles» que supuestamente pertenecían a ella circularon ampliamente en sitios web negros. Sin embargo, se trataba en realidad de creaciones deepfake y la intención del autor de generar la máxima interacción se cumplió con éxito.

A pesar de ser una de las actrices más importantes de Corea, Song Hye Kyo se vio afectada por el uso de tecnología Deepfake, que implicaba cambiar su rostro en imágenes y vídeos pornográficos. Esto provocó una indignación pública generalizada, ya que se encontraron más de 3000 imágenes y vídeos falsos de Song Hye Kyo en un sitio web dedicado a contenido Deepfake, según las estadísticas.

canción kye kyo deepfake — Song Hye Kyo es otra víctima de la tecnología Deepfake.

Según Security Hero, la punta del iceberg de Deepfake que se muestra arriba es solo una pequeña parte del problema. Los informes muestran que se descubrió que una cuenta de Twitter tenía más de 200 nombres de ídolos femeninas del K-pop de diferentes grupos, todos los cuales fueron alterados y manipulados utilizando la tecnología Deepfake. Además, hay numerosos sitios web que utilizan métodos Deepfake para crear contenido pornográfico, que a menudo involucra los rostros de víctimas desprevenidas. En algunos casos, incluso se les pide a los usuarios que paguen para acceder a este material perturbador.

Con el fin de proteger a las ídolos femeninas, numerosas empresas han expresado su preocupación. El 31 de agosto, JYP Entertainment manifestó su intención de emprender acciones legales contra cualquier contenido deepfake que involucre a sus artistas.

El problema de los deepfakes no se limita a JYP Entertainment, sino que también supone un problema importante para toda la industria del entretenimiento de Corea. Es fundamental que varias empresas de entretenimiento coreanas, incluidas JYP Entertainment, ADOR y Woollim Entertainment, adopten una postura contra este problema, ya que es esencial salvaguardar no solo a los artistas, sino también la reputación de la industria del entretenimiento del país.

K14 es la fuente.