Cenas de pedófilo em 'Travessia' são reais? Entenda tecnologia deepfake

A novela Travessia, exibida no horário nobre da Rede Globo, colocou em debate o uso do deepfake para fins criminosos. Na trama, a personagem Karina (Danielle Olímpia) é enganada por um pedófilo que finge ser uma modelo e influencer na Internet. O vilão utiliza um aplicativo similar ao DeepFaceLive, que modifica áudio e vídeo em tempo real, para mudar sua aparência, se aproximar da adolescente e conseguir fotos íntimas em um chat via webcam. A tecnologia deepfake usa inteligência artificial (IA) para criar vídeos falsos, mas realistas, de pessoas fazendo coisas que elas nunca fizeram na vida real.

Fora da televisão, o recurso já foi utilizado para criar vídeos falsos de personalidades públicas, como os ex-presidentes americanos Barack Obama e Donald Trump, a cantora Taylor Swift e a atriz Gal Gadot, além de políticos brasileiros como o atual presidente Lula e o ex-presidente Jair Bolsonaro. Nas linhas a seguir, entenda como funciona a tecnologia deepfake e quais riscos ela apresenta.

🔎 Como usar o app do Globo Esporte para acompanhar o seu time de futebol

Em um chat de vídeo, a adolescente Karina (Danielle Olímpia) conversa com a falsa influencer Bruna Schuler (Giullia Buscacio), que na verdade é um deepfake feito por um pedófilo — Foto: Divulgação/Rede Globo

📝 GloboPlay não quer baixar na Smart TV Samsung. Como resolver? Saiba no Fórum do TechTudo

Deepfake: como funciona e quais os riscos?

Os vídeos deepfake são criados por meio de programas que usam aprendizado de máquina e outros recursos de IA para adulterar rostos e vozes. Funciona assim: o software é alimentado com centenas ou milhares de fotos e vídeos das pessoas envolvidas. Os dados, então, são processados por uma rede neural, de forma que o computador aprenda como é determinado rosto, como ele se mexe e reage a luz e sombras, por exemplo. Esse “treino” é feito com o rosto do vídeo original e com o novo rosto, até que o programa seja capaz de encontrar um ponto comum entre as duas faces e “costurá-las".

O termo surgiu em 2017 em um fórum do Reddit, no qual um usuário da rede social compartilhou montagens de atrizes famosas em vídeos pornográficos. Posteriormente, outras celebridades e até políticos tiveram seus rostos estampados nesse novo tipo de montagem.

Hoje, sites como Deepfakes web e softwares como DeepFaceLab permitem que usuários com ou sem experiência em edição de vídeo e programação criem deepfakes com certa facilidade. Parte dos internautas utiliza a tecnologia para criar memes e outros conteúdos inofensivos, contudo, como é retratado pela novela, alguns aproveitam o recurso para fins ilícitos.

Em uso inofensivo, deepfake permite trocar o rosto de atores famosos em filmes, colocando Edward Norton no lugar de Brad Pitt em Clube da Luta — Foto: Reprodução/CTRL Shift Face

Em Travessia, um criminoso utiliza a tecnologia deepfake para se passar por uma atriz e, assim, enganar a adolescente Karina. O infrator finge ser a celebridade Bruna Schuler (Giullia Buscacio) com o intuito de se aproximar da jovem e conseguir fotos íntimas — as quais, segundo ele, seriam necessárias para levar a adolescente para o mundo artístico. Para isso, o pedófilo utiliza deepfake em tempo real, o que o permite, inclusive, conversar por vídeo e não ser descoberto.

Além de permitir falsificação de identidades e de pedofilia, o recurso também fez com que atrizes como Gal Gadot e Natalie Portman tivessem seus rostos colocados, sem consentimento, em vídeos falsos de pornografia. A problemática se estendeu também para outras mulheres anônimas, vítimas do "pornô de vingança".

Figuras públicas da política, do jornalismo e do entretenimento também já foram afetadas pela tecnologia. Em setembro do ano passado, viralizou na Internet um vídeo falso do Jornal Nacional no qual afirmava-se que o então candidato à reeleição Jair Bolsonaro ocupava o primeiro lugar nas pesquisas de intenção de voto. O conteúdo foi desmentido pelo telejornal.

Gal Gadot, atriz que interpreta mulher-maravilha, foi vítima de deepfake pornográfico — Foto: Reprodução/Vice

Como identificar deepfakes e se proteger

Ainda que as deepfakes tenham evoluído com o tempo, existem métodos para identificar se o vídeo é real ou falso. Como a técnica não é perfeita, o usuário deve prestar atenção aos detalhes do rosto da pessoa para tentar identificar inconsistências na textura da pele (na bochecha ou nariz) ou nos olhos. Isso porque é possível que haja falhas tanto nas piscadas quanto nos movimentos da boca durante a fala. Mesmo quando não há erro, os rostos modificados por IA dificilmente aparentam ser tão naturais quanto os de humanos, então vale a pena atentar para expressões robóticas.

Outra dica é prestar atenção à movimentação de quem está do outro lado da tela. Isso porque, se o usuário sair do enquadramento da câmera ou se movimentar rápido demais, é possível que a tecnologia falhe, e o rosto verdadeiro apareça. Por isso, nos deepfakes em tempo real, os farsantes tentam ficar imóveis em frente à webcam.

Durante a conversa no chat de vídeo, o pedófilo utiliza um programa que cria um deepfake em tempo real — Foto: Divulgação/Rede Globo

Caso a dúvida persista, o usuário pode pesquisar no Google Lens ou utilizar busca reversa para verificar se o vídeo ou a foto duvidosa foi alterada. Aplicativos de deepfake costumam deixar marcas d'água nas imagens, o que permite reconhecer se o arquivo foi modificado. Também é possível usar os apps Photo EXIF (Android) e EXIF Metadat (iOS) para checar a veracidade dos conteúdos potencialmente enganosos.

Como denunciar pedofilia

Para denunciar abuso infantil, sexual e qualquer outra violação aos Direitos Humanos, disque 100. O número está disponível 24 horas por dia. Também é possível fazer denúncias online, por meio do endereço "https://www.gov.br/mdh/pt-br/ondh/".

Com informações de BBC, Dazed Digital, Intel, GShow, Jornal Nacional, The Register, Unite.AI