[AVISO DE GATILHO] O texto a seguir contém termos sensíveis que podem servir de gatilho. Recomendamos cautela ao prosseguir a leitura.
Ao longo de abril, a polícia sul-coreana tem mostrado os resultados de seus esforços para conter os crimes sexuais envolvendo conteúdo criado por meio da tecnologia deepfake.
Em 11 de abril, a polícia anunciou que prendeu mais de 100 homens, a maioria entre adolescentes e 30 anos, por criar e distribuir pornografia deepfake com idols femininas do K-pop, atrizes, streamers da internet e até mesmo pessoas comuns
A unidade de investigação de crimes cibernéticos da Agência Policial Provincial de Gyeonggi Bukbu informou que prendeu 23 operadores de salas de bate-papo do Telegram sob acusações de violação da Lei de Proteção de Crianças e Jovens contra Abuso Sexual e da Lei de Casos Especiais Relativos à Punição de Crimes Sexuais.
Treze deles foram formalmente detidos e encaminhados ao Ministério Público. A polícia também apreendeu cerca de 60 participantes das salas de bate-papo.
Entre os detidos, um homem de 30 anos supostamente produziu mais de 1.100 vídeos deepfake de cerca de 30 celebridades — principalmente idols femininas do K-pop — entre agosto de 2024 e março de 2025, distribuindo-os em salas de bate-papo privadas no Telegram.
A polícia disse que o homem operava essas salas de bate-papo visando fãs fervorosos, alguns dos quais usavam os vídeos para zombar sexualmente de celebridades. Alguns participantes teriam tirado fotos obscenas usando recortes em tamanho real das celebridades em eventos de autógrafos.
Outro operador, na casa dos 30 anos, produziu cerca de 150 vídeos deepfake de cerca de 70 celebridades, incluindo idols, atrizes e apresentadoras de conteúdo da internet. A polícia disse que esse homem não apenas criou vídeos deepfake, mas também usou a tecnologia de “voz profunda” para manipular as vozes de celebridades, fazendo-as parecer que estavam fazendo comentários obscenos. Sua sala de bate-papo tinha cerca de 360 membros.
Oito indivíduos suspeitos de produzir ou distribuir (em salas de bate-papo do Telegram e outras redes sociais) vídeos falsos de deepfake envolvendo artistas da HYBE também foram presos pela polícia.
Um participante preso, na faixa dos 20 anos, supostamente criou e compartilhou mais de 300 vídeos deepfake de pessoas comuns, incluindo seus ex-colegas do ensino fundamental, na sala de bate-papo do segundo operador.
A maioria dos presos eram jovens desempregados, na faixa dos 20 e poucos anos, alguns recebendo assistência social básica, informou a polícia. Os investigadores descobriram que os criminosos operavam salas de bate-papo não comerciais, ganhando reconhecimento de membros que os chamavam de “artistas”.
A polícia observou que muitos participantes de salas de bate-papo acreditavam que crimes de deepfake envolvendo celebridades não seriam investigados ou, se descobertos, resultariam apenas em punições leves.
A polícia conduziu investigações em cooperação com a Divisão de Investigação de Crimes Cibernéticos do Escritório Nacional de Investigação (NOI) e agências internacionais de segurança pública e também trabalhou com o Centro de Apoio a Vítimas de Crimes Sexuais Digitais do Instituto de Direitos Humanos das Mulheres da Coreia do Sul para excluir e bloquear os vídeos e fornecer apoio às vítimas, incluindo assistência jurídica.
A polícia disse que está trabalhando com agências de entretenimento para proteger as vítimas e identificar e investigar rapidamente suspeitos em casos envolvendo a produção e distribuição de vídeos deepfake de celebridades.
“Não nos limitaremos a prender os operadores das salas de bate-papo, mas continuaremos a rastrear e apreender todos os participantes”, disse Kim Jung-hyun, chefe da unidade de investigação de crimes cibernéticos da Agência Policial Provincial de Gyeonggi Bukbu. “Crimes sexuais digitais são crimes graves que destroem o cotidiano das vítimas, e faremos o máximo para erradicá-los”.
Em 17 de abril, o NOI, subordinado à Agência Nacional de Polícia da Coreia, anunciou os resultados de sua campanha de fiscalização contra a produção, distribuição, posse e exibição de vídeos ilegais sexualmente explícitos, realizada de 28 de agosto de 2024 a 31 de março deste ano.
A polícia prendeu 963 indivíduos após sete meses de repressão a crimes sexuais envolvendo conteúdo criado por meio da tecnologia deepfake, com a maioria das prisões envolvendo adolescentes e pessoas na faixa dos 20 anos.
O número de pessoas presas durante esse período aumentou em 260% em comparação às 267 pessoas detidas nos sete meses anteriores ao início da repressão.
Dos presos, 669 eram adolescentes — incluindo 72 menores não sujeitos a punição criminal pela lei atual — seguidos por 228 na faixa dos 20 anos, 51 na faixa dos 30 anos, 11 na faixa dos 40 anos e quatro com 50 anos ou mais. Adolescentes e pessoas na faixa dos 20 anos representaram 93,1% de todas as prisões.
Entre os detidos estava um suspeito que, de novembro de 2022 a agosto de 2024, criou uma sala de bate-papo no Telegram listando os nomes e universidades de universitárias e distribuiu vídeos deepfake cerca de 270 vezes.
Outro suspeito comandava um grupo do Telegram com o nome de um grupo de K-pop e produziu e compartilhou aproximadamente 1.100 vídeos deepfake de celebridades de agosto de 2023 a março deste ano.
A polícia também solicitou que mais de 10.000 vídeos fossem excluídos ou bloqueados por meio de coordenação com a Comissão de Padrões de Comunicações da Coreia e outras agências relevantes.
Com uma revisão da Lei sobre Casos Especiais Relativos à Punição de Crimes Sexuais prevista para entrar em vigor em 4 de junho, que permite investigações secretas em casos de deepfake mesmo quando a vítima é adulta, a polícia planeja fazer uso ativo dessa autoridade expandida.
“A produção de vídeos deepfake manipulados sexualmente é crime, assim como possuí-los, comprá-los ou assisti-los“, disse a polícia.
Fonte: (1), (2), (3)
Imagem:
Não retirar sem os devidos créditos.