Lisa e Song Hye Kyo: Escândalo Deepfake tem como alvo ídolos e celebridades do K-Pop, gerando alarme nacional

Atualmente, um grupo de bate-papo do Telegram causou indignação e confusão generalizadas ao distribuir imagens sensíveis de mulheres, incluindo vídeos onde os rostos de ídolos femininos do K-pop foram editados em filmes adultos. O grupo foi exposto, revelando mais de 212.000 membros. Este incidente trouxe à tona a questão do Deepfake na Coreia do Sul, enfatizando as consequências perigosas que surgem quando criminosos usam essa tecnologia para fins maliciosos.

Conforme declarado em um relatório da Security Hero, a Coreia do Sul foi identificada como o país líder na disseminação ilícita de material pornográfico na internet. Após estudar 96.000 vídeos de 10 sites pornográficos Deepfake e 85 canais Deepfake em plataformas de compartilhamento de vídeos por dois meses, foi revelado que 53% dos indivíduos apresentados nesses vídeos são cantores e atores coreanos populares.

sakura le sserafim deepfake — Sakura do LE SSERAFIM e uma foto editada para incluí-la em conteúdo pornográfico usando tecnologia Deepfake.

O problema do Deepfake persiste há vários anos desde o surgimento dessa tecnologia e sua imprevisibilidade só continua a crescer. Vários indivíduos renomados foram vítimas do Deepfake.

Deepfake se refere a uma técnica de IA (inteligência artificial) que substitui digitalmente o rosto de um indivíduo pelo de outro.

Minji (NewJeans) é a ídolo feminina com mais alvos criminosos Deepfake

De acordo com as estatísticas, Minji (NewJeans) detém o recorde de ser o ídolo com o maior número de imagens e vídeos Deepfake produzidos todo mês, totalizando mais de 17.000. Essa estatística preocupante destaca os riscos potenciais da tecnologia Deepfake nas mãos de criminosos para atividades nefastas.

newjeans minji 090324 — Minji (NewJeans) é a ídolo feminina mais visada pelos criminosos Deepfake.

A ADOR, empresa de gestão da NewJeans, emitiu uma declaração em junho de 2024 em resposta à situação: “A distribuição de conteúdo pornográfico manipulado com nossos artistas tem consequências sérias para nossa empresa”. Eles também declararam que entraram com uma ação legal e estão determinados a lutar contra criminosos Deepfake para proteger seus artistas.

minji jeans — A fama e a beleza de Minji (NewJeans) estão sendo exploradas para criar um grande número de produtos Deepfake pornográficos. Isso é extremamente perigoso para os ídolos, pois tanto sua imagem quanto sua dignidade são severamente manchadas.

Mirando Lisa (BLACKPINK) com vídeos Deepfake: Tentativas de manchar sua imagem

No final de 2023, houve muita conversa nas redes sociais sobre Lisa (BLACKPINK) tirando suas roupas durante uma apresentação no Crazy Horse Show em Paris, França. A filmagem rapidamente se tornou viral em várias plataformas, incluindo sites adultos.

lisa blackpink deepfake — Uma imagem de um vídeo Deepfake que poderia ter arruinado a carreira de Lisa.

Apesar de enfrentar reações mistas por sua performance em uma boate, Lisa foi exonerada pelo aplicativo de detecção de Deepfake desenvolvido pelo KAIST (Korea Advanced Institute of Science and Technology). O aplicativo analisou o vídeo e provou que era um produto editado. É crucial notar que se o vídeo não tivesse sido esclarecido, a carreira de Lisa poderia ter sido fortemente prejudicada devido à difamação.

Yoona e outros ídolos do K-pop afetados pela tecnologia Deepfake

Em 2017, o Deepfake surgiu como um tópico proeminente na indústria de tecnologia. No entanto, em 2018, ele já havia causado danos, pois Yoona e vários ídolos do K-pop foram alvos e apresentados em sites pornográficos com seus nomes nas manchetes, ganhando milhões de visualizações.

Assim que a tecnologia Deepfake surgiu, várias figuras conhecidas do K-pop, como Yoona, Red Velvet, TWICE, SNSD, IU, AOA, Suzy, Chungha, GFRIEND, Apink, Girl’s Day, Hani, BLACKPINK, Weki Meki Doyeon, PRISTIN Kyulkyung, MAMAMOO e Oh My Girl se tornaram alvos.

Apesar dos esforços de vários artistas, empresários e empresas de gestão para se manifestarem contra isso, os crimes de Deepfake continuam a persistir, causando preocupações sobre a difamação de artistas e a mancha de suas imagens. O número de vídeos e imagens pornográficas editadas na internet também continua a aumentar.

eu sou yoon ah deepfake — Yoona e muitas artistas femininas se tornaram vítimas do Deepfake.

Yujeong – Garotas Corajosas

Em fevereiro de 2024, durante uma aparição em um programa da tvN, Yujeong, do Brave Girls, compartilhou que havia sido vítima de Deepfake. Expressando sua frustração, Yujeong declarou: “Só descobri isso depois de ser informada por alguém que conheço. É alarmante pensar que qualquer pessoa, independentemente do gênero, pode ser alvo disso.”

Yujeong Brave Girls deepfake — Yujeong (Brave Girls) disse que ficou extremamente brava e assustada quando descobriu que era vítima de Deepfake.

Song Hye Kyo: Outra vítima de deepfakes

Em 2020, houve um choque generalizado entre os fãs de Song Hye Kyo e muitos espectadores quando uma série de imagens “sensíveis”, supostamente pertencentes a ela, foram amplamente divulgadas em sites negros. No entanto, essas eram, na verdade, criações Deepfake, e a intenção do perpetrador de gerar o máximo de interação foi cumprida com sucesso.

Apesar de ser uma das principais atrizes da Coreia, Song Hye Kyo foi atormentada pelo uso da tecnologia Deepfake, que envolvia trocar seu rosto por imagens e vídeos pornográficos. Isso provocou indignação pública generalizada, com mais de 3.000 imagens e vídeos falsos de Song Hye Kyo sendo encontrados em um site dedicado a conteúdo Deepfake, de acordo com estatísticas.

música kye kyo deepfake — Song Hye Kyo é outra vítima da tecnologia Deepfake.

De acordo com o Security Hero, a ponta do iceberg do Deepfake apresentada acima é apenas uma pequena parte do problema. Relatórios mostram que uma conta do Twitter foi descoberta com mais de 200 nomes de ídolos femininos do K-pop de diferentes grupos, todos alterados e manipulados usando a tecnologia Deepfake. Além disso, existem vários sites que utilizam métodos Deepfake para criar conteúdo pornográfico, geralmente envolvendo os rostos de vítimas desavisadas. Em alguns casos, os usuários são até obrigados a pagar para acessar esse material perturbador.

Para proteger ídolos femininos, várias empresas expressaram suas preocupações. Em 31 de agosto, a JYP Entertainment declarou sua intenção de mover uma ação legal contra qualquer conteúdo Deepfake envolvendo seus artistas.

A questão do Deepfake não se limita apenas à JYP Entertainment, mas também representa um problema significativo para toda a indústria de entretenimento coreana. É crucial que várias empresas de entretenimento coreanas, incluindo JYP Entertainment, ADOR e Woollim Entertainment, se posicionem contra essa questão, pois é essencial proteger não apenas os artistas, mas também a reputação da indústria de entretenimento do país.

K14 é a fonte.