리사&송혜교: 딥페이크 스캔들, K팝 아이돌과 연예인을 표적으로 삼아 전국적 경각심 고조

리사&송혜교: 딥페이크 스캔들, K팝 아이돌과 연예인을 표적으로 삼아 전국적 경각심 고조

현재 텔레그램 채팅 그룹은 K팝 여성 아이돌의 얼굴이 성인 영화에 편집된 영상을 포함한 민감한 여성 이미지를 배포하면서 광범위한 분노와 혼란을 야기했습니다. 이 그룹은 폭로되어 212,000명 이상의 회원이 밝혀졌습니다. 이 사건은 한국의 딥페이크 문제를 밝혀냈으며, 범죄자들이 이 기술을 악의적인 목적으로 사용할 때 발생하는 위험한 결과를 강조했습니다.

Security Hero의 보고서에 따르면, 한국은 인터넷에서 음란물을 불법으로 유포하는 데 있어 선두적인 국가로 지목되었습니다. 2개월 동안 10개의 딥페이크 포르노 웹사이트와 비디오 공유 플랫폼의 85개 딥페이크 채널에서 96,000개의 비디오를 연구한 결과, 이러한 비디오에 등장하는 개인의 53%가 인기 있는 한국 가수와 배우인 것으로 밝혀졌습니다.

사쿠라 르 세라핌 딥페이크
LE SSERAFIM의 사쿠라와 딥페이크 기술을 이용해 그녀를 포르노 콘텐츠에 포함하도록 편집한 사진.

딥페이크 문제는 이 기술이 등장한 이래로 수년간 지속되어 왔으며 예측 불가능성은 계속해서 커졌습니다. 수많은 유명인이 딥페이크의 희생자가 되었습니다.

딥페이크는 한 사람의 얼굴을 다른 사람의 얼굴로 디지털 방식으로 대체하는 AI(인공지능) 기술을 말합니다.

민지(뉴진스)가 딥페이크 범죄 타깃이 가장 많은 여자 아이돌이다.

통계에 따르면, 민지(NewJeans)는 매달 17,000개가 넘는 딥페이크 이미지와 비디오를 가장 많이 제작한 아이돌이라는 기록을 보유하고 있습니다. 이 우려스러운 통계는 범죄자들이 딥페이크 기술을 악의적인 활동에 사용할 경우 잠재적인 위험을 강조합니다.

뉴진스 민지 090324
민지(뉴진스)는 딥페이크 범죄자들이 가장 많이 노리는 여자 아이돌이다.

NewJeans의 매니지먼트사인 ADOR는 2024년 6월 상황에 대한 성명을 발표했습니다. “저희 아티스트가 등장하는 조작된 음란물 콘텐츠의 배포는 저희 회사에 심각한 결과를 초래합니다.” 또한 법적 조치를 취하고 아티스트를 보호하기 위해 딥페이크 범죄자들과 싸울 것을 결의했다고 선언했습니다.

민지 뉴진
민지(NewJeans)의 명성과 아름다움은 수많은 포르노 딥페이크 제품을 만드는 데 이용되고 있습니다. 이는 아이돌에게 매우 위험합니다. 이미지와 존엄성이 모두 심하게 훼손되기 때문입니다.

리사(블랙핑크)를 딥페이크 영상으로 공격, 이미지 훼손 시도

2023년 후반, 프랑스 파리의 Crazy Horse Show에서 공연하는 동안 Lisa(BLACKPINK)가 옷을 벗는 모습이 소셜 미디어에 많이 보도되었습니다. 이 영상은 성인 웹사이트를 포함한 여러 플랫폼에서 빠르게 퍼졌습니다.

리사 블랙핑크 딥페이크
리사의 커리어를 망칠 수도 있는 딥페이크 영상의 한 장면.

나이트클럽에서의 퍼포먼스에 대한 엇갈린 반응에도 불구하고, 리사는 KAIST(한국과학기술원)가 개발한 딥페이크 감지 애플리케이션에 의해 무죄 판결을 받았습니다. 이 애플리케이션은 비디오를 분석하여 편집된 제품임을 증명했습니다. 비디오가 정리되지 않았다면 리사의 커리어는 명예훼손으로 인해 크게 손상되었을 수 있다는 점에 유의하는 것이 중요합니다.

리사 블랙핑크 딥페이크
하지만 그게 전부가 아닙니다. 이 아이돌은 딥페이크의 표적이 되었으며, 그녀의 얼굴은 많은 포르노 웹사이트에 합성되었습니다.

윤아 등 K팝 아이돌, 딥페이크 기술로 피해

2017년, 딥페이크는 기술 산업에서 중요한 주제로 떠올랐습니다. 하지만 2018년에는 윤아와 수많은 K팝 아이돌이 표적으로 삼아 포르노 웹사이트에 실리고 헤드라인에 이름이 실리면서 수백만 건의 조회수를 기록하면서 이미 피해를 입었습니다.

딥페이크 기술이 등장하자마자 윤아, 레드벨벳, 트와이스, 소녀시대, 아이유, AOA, 수지, 청하, 여자친구, 에이핑크, 걸스데이, 하니, 블랙핑크, 위키미키 도연, 프리스틴 결경, 마마무, 오마이걸 등 유명 K팝 스타들이 타깃이 됐다.

수많은 아티스트, 매니저, 매니지먼트 회사가 이에 반대하는 노력을 하고 있지만, 딥페이크 범죄는 계속되고 있으며, 아티스트의 명예 훼손과 이미지 훼손에 대한 우려가 커지고 있습니다. 인터넷에서 편집된 포르노 비디오와 이미지의 수도 계속 증가하고 있습니다.

임윤아 딥페이크
윤아를 비롯해 많은 여성 아티스트들이 딥페이크의 피해자가 됐다.

유정 – 브레이브걸스

2024년 2월, tvN 프로그램에 출연한 브레이브걸스의 유정은 딥페이크에 희생되었다고 밝혔습니다. 유정은 좌절감을 표하며 “제가 아는 사람에게서 이 사실을 알게 됐어요. 성별에 관계없이 누구나 이의 대상이 될 수 있다는 생각이 무섭습니다.”라고 말했습니다.

유정 브레이브걸스 딥페이크
브레이브걸스 유정이 딥페이크 피해자라는 사실을 알았을 때 극도로 화가 나고 무서웠다고 밝혔다.

송혜교: 딥페이크의 또 다른 피해자

2020년, 송혜교의 팬과 많은 시청자 사이에 그녀의 것으로 추정되는 일련의 ‘민감한’ 이미지가 블랙 웹사이트에 광범위하게 유포되면서 광범위한 충격이 있었습니다. 그러나 이는 실제로 딥페이크 창작물이었으며, 가해자의 최대 상호 작용을 생성하려는 의도는 성공적으로 달성되었습니다.

송혜교는 한국 최고의 여배우 중 한 명임에도 불구하고, 그녀의 얼굴을 포르노 이미지와 비디오에 바꾸는 딥페이크 기술 사용으로 어려움을 겪었습니다. 이는 광범위한 대중의 분노를 불러일으켰고, 통계에 따르면 딥페이크 콘텐츠 전용 웹사이트에서 송혜교의 가짜 이미지와 비디오 3,000개가 발견되었습니다.

송계교 딥페이크
송혜교 역시 딥페이크 기술의 희생자다.

Security Hero에 따르면, 위에 제시된 Deepfake 빙산의 일각은 문제의 일부에 불과합니다. 보고서에 따르면 Twitter 계정에서 다양한 그룹의 K팝 여성 아이돌 200명 이상의 이름이 발견되었으며, 모두 Deepfake 기술을 사용하여 변경 및 조작되었습니다. 게다가 Deepfake 방법을 사용하여 포르노 콘텐츠를 만드는 수많은 웹사이트가 있으며, 종종 의심치 않는 피해자의 얼굴이 포함됩니다. 어떤 경우에는 사용자가 이 불쾌한 자료에 액세스하기 위해 비용을 지불해야 할 수도 있습니다.

여성 아이돌을 보호하기 위해 많은 회사가 우려를 표명했습니다. 8월 31일, JYP 엔터테인먼트는 아티스트와 관련된 모든 딥페이크 콘텐츠에 대해 법적 조치를 취할 의향을 밝혔습니다.

딥페이크 문제는 JYP엔터테인먼트에만 국한되지 않고, 한국 엔터테인먼트 산업 전체에 중대한 문제를 제기하고 있습니다. JYP엔터테인먼트, ADOR, 울림엔터테인먼트를 포함한 다양한 한국 엔터테인먼트 회사가 이 문제에 맞서는 것이 중요합니다. 아티스트뿐만 아니라 국가 엔터테인먼트 산업의 평판을 보호하는 데 필수적이기 때문입니다.

K14가 소스입니다.

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다