O grupo brasileiro de ódio a mulheres que fabrica com IA imagens pornô falsas sob encomenda

Atenção: Esta reportagem contém detalhes que podem ser sensíveis para alguns leitores.

Era o intervalo do seu trabalho como bartender em um restaurante de São Paulo. Momento de descanso — e de checar o celular. Ana* estranhou duas mensagens que recebeu pelo Instagram.

Ambas tratavam do mesmo tema. Era um aviso que levou a um turbilhão do qual ela ainda não saiu.

Duas mulheres diziam nas mensagens que uma foto de Ana ao lado de sua mãe — feita em uma festa de Natal — tinha sido alterada e transformada em uma imagem em que as duas apareciam nuas. A imagem estava sendo compartilhada na internet junto com o link para o perfil de Ana no Instagram.

"Minha mãe, a pessoa que mais amo na minha vida. Uma senhora religiosa de 65 anos. Só de lembrar da foto, de ter que rever a foto, eu fico mal. Ela não sabe até hoje o que aconteceu", ela conta à BBC News Brasil.

Apesar do choque, a bartender de 25 anos não demorou para perceber a relação da imagem manipulada com uma postagem que ela havia feito no Facebook — era uma provável represália.

Em maio, Ana havia compartilhado um alerta: participantes de uma comunidade no próprio Facebook estavam criando imagens pornô falsas a partir de fotos das colegas, vizinhas ou parentes.

Nestas manipulações, um corpo nu é inserido digitalmente no lugar do corpo vestido com roupas da pessoa que aparece na imagem original. Ou o rosto da vítima é adicionado a uma cena de sexo.

Especialistas dizem que o avanço acelerado da inteligência artificial vem tornando essas montagens, conhecidas como deepfakes, cada vez mais realistas. São os antigos “photoshops” com capacidades multiplicadas.

A atriz Mel Maia, de 20 anos, foi recentemente alvo de um vídeo manipulado que afirmava falsamente ser uma cena de sexo entre ela e um homem apontado como integrante da facção criminosa Comando Vermelho.

Ana decidiu fazer por conta própria uma investigação para descobrir quem eram as pessoas por trás desse grupo.

Ela notou que comunidades deste tipo costumam ser tiradas do ar pelo Facebook em algum momento, porque violam as regras da rede social. Mas ressurgem com nomes ligeiramente diferentes pouco tempo depois e sobrevivem por alguns dias até que sejam derrubadas de novo.

É tempo suficiente, diz Ana, para que essas páginas alcancem seu objetivo agora: promover comunidades de pornô deepfake que funcionam dentro do aplicativo de mensagens Telegram.

Foi assim com a página do Facebook na qual a imagem de Ana e sua mãe foi publicada, que virou uma comunidade no Telegram que tem quase 2 mil membros.

Ana decidiu entrar no grupo e acompanhar o que acontecia por lá.

'Mulher é um ser maligno'

A reportagem da BBC News Brasil presenciou em tempo real participantes da comunidade no Telegram encomendando deepfakes pornô a partir de fotos de mulheres que diziam ser suas conhecidas.

Depois de algum tempo, quem tinha feito o pedido recebia a imagem manipulada de volta.

Uma das mensagens mostrava, por exemplo, uma selfie comum — sem grande produção ou cuidado com iluminação — de uma mulher vestida.

A seguir, apareceu uma versão digitalmente modificada em que ela aparecia nua.

Participante 1 - Quem é?

Participante 2 - Mãe de um amigo meu kkkk

Nos diálogos travados no grupo, os participantes demonstravam ter uma postura de forte hostilidade em relação a mulheres.

Participante 3 - Mulher calada ou tá lavando louça ou dando pro marido depois do trabalho

Participante 4 - Ou apanhando

Participante 5 - Mulher é um ser maligno e também é o ser mais falso da humanidade. Hoje em dia elas são verdadeiros demônios

Outro membro da comunidade fala de forma obsessiva sobre a irmã, aborda a possibilidade de abusá-la e pede que façam um pornô deepfake dela.

Alguns também se gabam de apreciar gore — vídeos e fotos de situações de extrema violência, quase sempre reais.

Mesmo em comunidades abertas do Facebook, onde não é postado pornô deepfake, o propósito do grupo de constranger mulheres é celebrado.

Ana mostra uma página de memes, que se descreve como de "humor negro" e reúne 65 mil usuários, onde se ironiza o receio de mulheres de postarem livremente suas fotos.

"Apenas imagine: [...] mulheres am a ter medo de postar qualquer foto na internet, pois o robô da p...ria está sempre à espreita", disse um dos participantes.

Outro comentou: "*mulheres am a ter medo de postar qualquer foto na internet* Objetivo concluído ✔️"

À BBC News Brasil, o Telegram e a Meta, dona do Facebook, disseram que monitoram constantemente a circulação de conteúdo prejudicial em seus aplicativos e atuam quando necessário.

Tanto nestes grupos de memes do Facebook, que são íveis sem qualquer restrição, quanto nas comunidades fechadas do Telegram são frequentes as menções a termos e temas da “machosfera”, como são chamados os grupos e fóruns online em que os participantes debatem sobre uma suposta perda do poder masculino na sociedade atual.

Há as subdivisões dentro da machosfera, mas o discurso de ódio — ou ao menos de ressentimento — contra as mulheres está presente em boa parte delas. Os grupos incel e redpill estão entre os principais.

O nome incel vem da expressão em inglês "involuntary celibates" (celibatários involuntários, em tradução livre do inglês).

São adolescentes ou jovens adultos que se dizem rejeitados por mulheres e visitam fóruns online para encontrar uma comunidade.

Muitos alegam que perderam a "loteria genética" (consideram não ser o "protótipo" de homem popular) e afirmam que estão "condenados" ao desprezo pelo sexo feminino.

Diferentemente dos incels, os redpills falam de travar relacionamentos com mulheres, mas sustentam que é necessária uma atitude de dominação e de desconfiança em relação a elas.

Prega-se um retorno aos tempos em que o domínio masculino era indiscutível na sociedade.

Redpill (pílula vermelha, em tradução livre) é uma referência aos filmes da franquia Matrix, em que o protagonista escolhe entre tomar a pílula azul, que permite seguir em um "mundo de ilusões", e a vermelha, para encarar a "realidade".

Ana fala com o ''

Ana conta que os es, ou "s", da comunidade no Telegram ofereciam, por R$ 15, o a um "grupo VIP com outros tipos de conteúdo".

Ela mostrou à reportagem capturas de tela de uma conversa que teve com um deles em que ela demonstrou interesse em ar o grupo.

O , então, forneceu duas chaves de pix embaralhadas (aleatórias). Ana, porém, demorou alguns minutos para efetuar a transação.

Ele voltou então a procurá-la e ou uma nova chave pix: seu número de celular.

Ana diz que, a partir dessa informação, encontrou informações que levavam a dados associados a um homem do interior de Goiás.

Ela decidiu levar essas informações à polícia. Junto com Ana, outras vítimas de pornô deepfake denunciaram seus casos.

Todas se reuniram em um grupo de WhatsApp para discutir estratégias sobre como fazer os responsáveis pela comunidade pornô deepfake serem responsabilizados pela Justiça.

Entre as participantes, há a mãe de uma menor de idade que foi alvo de deepfake.

Outra é Fernanda*, de 22 anos. Ela é cosplayer (veste fantasias de personagens famosos, principalmente dos animes japoneses) e teve uma foto de uma festa de Halloween alterada.

Fernanda diz que já sofre com agressões online quando não responde a abordagens de interessados na cultura cosplayer.

Após a manipulação da sua foto, a preocupação aumentou.

"Você começa a ficar com medos do tipo 'será que eu devo sair com tal roupa? E se fizerem alguma coisa? E se tirarem uma foto");