Era o intervalo do seu trabalho como bartender em um restaurante de São Paulo. Momento de descanso — e de checar o celular. Ana* estranhou duas mensagens que recebeu pelo Instagram.

Ambas tratavam do mesmo tema. Era um aviso que levou a um turbilhão do qual ela ainda não saiu.

Duas mulheres diziam nas mensagens que uma foto de Ana ao lado de sua mãe — feita em uma festa de Natal — tinha sido alterada e transformada em uma imagem em que as duas apareciam nuas. A imagem estava sendo compartilhada na internet junto com o link para o perfil de Ana no Instagram.

"Minha mãe, a pessoa que mais amo na minha vida. Uma senhora religiosa de 65 anos. Só de lembrar da foto, de ter que rever a foto, eu fico mal. Ela não sabe até hoje o que aconteceu", ela conta à BBC News Brasil.

Apesar do choque, a bartender de 25 anos não demorou para perceber a relação da imagem manipulada com uma postagem que ela havia feito no Facebook — era uma provável represália.

Em maio, Ana havia compartilhado um alerta: participantes de uma comunidade no próprio Facebook estavam criando imagens pornô falsas a partir de fotos das colegas, vizinhas ou parentes.

Nestas manipulações, um corpo nu é inserido digitalmente no lugar do corpo vestido com roupas da pessoa que aparece na imagem original. Ou o rosto da vítima é adicionado a uma cena de sexo.

Especialistas dizem que o avanço acelerado da inteligência artificial vem tornando essas montagens, conhecidas como deepfakes, cada vez mais realistas. São os antigos “photoshops” com capacidades multiplicadas.

Ana decidiu fazer por conta própria uma investigação para descobrir quem eram as pessoas por trás desse grupo.

Ela notou que comunidades deste tipo costumam ser tiradas do ar pelo Facebook em algum momento, porque violam as regras da rede social. Mas ressurgem com nomes ligeiramente diferentes pouco tempo depois e sobrevivem por alguns dias até que sejam derrubadas de novo.

É tempo suficiente, diz Ana, para que essas páginas alcancem seu objetivo: promover comunidades de pornô deepfake que funcionam dentro do aplicativo de mensagens Telegram.

Foi assim com a página do Facebook na qual a imagem de Ana e sua mãe foi publicada, que virou uma comunidade no Telegram que tem quase 2 mil membros.
Ana decidiu entrar no grupo e acompanhar o que acontecia por lá.

Fonte: G1