Um relatório do grupo de inteligência Sensity, que pesquisa imagens falsas e outras mídias visuais maliciosas, revelou que um robô deepfake foi disponibilizado gratuitamente na plataforma de mensagens Telegram. Com este bot, os usuários divulgaram publicamente deepfakes nus de milhares de mulheres com base em fotos amplamente disponíveis nas redes sociais.
Um relatório recente revelou mais de 100.000 fotos falsas de mulheres nuas com base em imagens de mídia social, que foram então compartilhadas online.
Esse tipo de tecnologia deepfake não é um feito novo. Infelizmente, há anos que software semelhante tem sido usado para produzir conteúdo pornográfico falso de celebridades.
Este novo aumento dramático em imagens decorre de um “deepfake bot” residente no canal privado do aplicativo de mensagens Telegram. Os usuários podem enviar fotos inócuas de mulheres, e o bot as despirá e as espalhará na plataforma de mensagens.
O administrador do serviço, conhecido como “P” online, respondeu a esta reportagem: “Não me importo muito. Isso é entretenimento que não transmite violência”. “P” prosseguiu dizendo que a qualidade das imagens era irreal o suficiente para não ser usada para chantagem e minimizou os danos do aplicativo, afirmando: “Existem guerras, doenças, muitas coisas ruins que são prejudiciais no mundo.”
Sensity, a empresa de inteligência que está pesquisando esta recente elevação falsa, afirmou que entre julho de 2019 e 2020, relatou-se que 104.852 mulheres foram alvo de imagens compartilhadas publicamente. Uma pesquisa de acompanhamento nas páginas nas quais o bot deepfake foi anunciado revelou que esse número pode, na verdade, estar mais perto de inacreditáveis 680.000 pessoas almejadas.
“Ter uma conta nas redes sociais com fotos públicas é o suficiente para qualquer um se tornar um alvo”, alertou o presidente-executivo da Sensity, Giorgio Patrini. Embora a tecnologia não seja nova, Patrini diz que visar a particulares é uma prática “relativamente nova”.
Repórteres da BBC tentaram esse robô com o consentimento dos participantes e descobriram que os resultados eram “ruins”, incluindo a imagem de uma “mulher com um umbigo no diafragma”.
Algumas das imagens reveladas nesta investigação aparentavam ser menores de idade, “sugerindo que alguns usuários usavam principalmente o bot para gerar e compartilhar conteúdo pedófilo”.
Como administrador, P disse que o conteúdo pedofílico é excluído se for encontrado e ainda afirmou que em breve excluirá todas as imagens compartilhadas na plataforma.
Pesquisas com os usuários desse serviço de bot mostraram que 70% dos cerca de 101.000 membros eram de países russos e da ex-URSS onde o Telegram é um aplicativo de mensagens popular. A pesquisa da Sensity também mostrou que o bot fazia muitos anúncios no site da mídia russa, VK.
“Muitos desses sites ou aplicativos não se escondem ou operam no submundo, porque não são estritamente proibidos”, disse Giorgio Patrini, do Sensity. “Até que isso aconteça, temo que só vá piorar.”
Vítimas de pornografia falsificada podem sofrer um sério impacto pessoal e profissional e, como resultado, alguns estados nos Estados Unidos proibiram o ato, embora ele não seja proibido nacionalmente.
Um relatório da Durham University e da University of Kent descreveu a situação das proteções legais em torno dos deepfakes e da pornografia de vingança no Reino Unido como “inconsistente, desatualizada e confusa”.
Os autores do relatório Sensity aparentemente compartilharam essas informações com as autoridades policiais e com a plataforma e grupos de mídia em questão, mas não receberam nenhuma resposta.
