Tendência crescente de incidentes de deepfake: Fancams originalmente destinadas a atrair fãs agora são usadas para edições de deepfake inapropriadas

Apesar dos esforços para lidar com eles, uma parcela significativa das solicitações de remoção (29%, ou 270.000 casos) ficaram sem solução. Embora a escassez de pessoal de resposta continue sendo uma grande preocupação, há também uma necessidade urgente de regulamentações mais rigorosas que obriguem as empresas a cumprir essas solicitações.

De 2020 a junho de 2024, o Digital Sexual Crime Victim Support Center recebeu um total de 938.651 solicitações para remover conteúdo ilegal, incluindo deepfake e imagens sexualmente abusivas. Dessas solicitações, 269.917 casos (28,8%) não puderam ser removidos. Isso mostra um aumento de 79,7% em casos não resolvidos ao longo de dois anos, deixando um total de 75.000 casos sem solução somente em 2023.

O avanço da tecnologia contribuiu para um aumento significativo na produção de deepfakes, resultando em um aumento em crimes relacionados. Um exemplo claro é a vitimização de artistas de K-pop por meio da criação de vídeos “fancam” por seus fãs. Como resposta, agências como JYP Entertainment e YG Entertainment tomaram medidas legais para combater deepfakes.

Apesar da gravidade crescente desses incidentes, pessoas comuns também foram vítimas, como um professor cujas imagens foram editadas e compartilhadas em salas de bate-papo na internet. No entanto, as medidas atuais em vigor não são suficientes para resolver o problema devido à falta de autoridade para fazer cumprir. Profissionais e legisladores estão defendendo regras mais fortes, incluindo penalidades e suspensões para plataformas online que não removerem material ilegal.

A fonte pode ser encontrada em Daum .