Como identificar uma deepfake?

Imagine que você pode dançar como Bruno Mars ou cantar como Whitney Houston em apenas um dia. A tecnologia que torna possível dizer ou fazer algo que uma pessoa nunca fez ou disse pode parecer complicada, mas é muito acessível. É necessário apenas uma filmagem ou a gravação da voz para começar a criar uma realidade alternativa.

Esse tipo de conteúdo manipulado, criado com a ajuda da tecnologia de Inteligência Artificial (IA), é chamado de conteúdo sintético ou, mais amplamente conhecido como deepfake.

O exemplo abaixo é de 2018 e ainda impressiona – mas, agora, as deepfakes podem ser ainda mais realistas e convincentes.

O que são deepfakes?

Deepfake é um termo que descreve arquivos de áudio e vídeo criados com o uso de Inteligência Artificial, um "aprendizado de máquina" para ser mais exato.

Todos os tipos de deepfakes são possíveis. Trocas de rosto, em que o rosto de uma pessoa é substituído pelo de outra. Sincronização labial, quando a boca de uma pessoa falando pode ser ajustada a uma faixa de áudio diferente da original. Clonagem de voz, em que uma voz é "copiada" para dizer outras coisas.

Rostos e corpos totalmente sintéticos também podem ser gerados, por exemplo, como avatares digitais. Com a tecnologia deepfake, mesmo pessoas mortas podem ser trazidas de volta à vida, como fez o Museu Dali, na Flórida, com o pintor Salvador Dali.

Essas manipulações de vídeo sintéticas são produzidas com as chamadas Redes Adversárias Gerativas (GANs).

Uma GAN é um modelo de aprendizado de máquina no qual duas redes neurais competem entre si para se tornarem mais precisas em seus resultados.

Em termos simples: um computador pergunta a outro se o clone digital que ele fez de você é convincente o suficiente, comparando-o com o material original. Você se move do mesmo jeito? Soa igual? Sua expressão é a mesma? O sistema se aprimora a cada nova tentativa, até ficar satisfeito com o resultado.

Embora essa tecnologia esteja continuamente melhorando e seja altamente sofisticada, você ainda pode identificar deepfakes se souber como procurar.

Identificando o (in) visível

Você não precisa se tornar um especialista em deepfake para distinguir o que é real do que é falso. Aqui estão algumas dicas:

1) Diminua a velocidade e olhe novamente. Pense antes de compartilhar. Pergunte a si mesmo: isso pode realmente ser verdade? Você esperava que isso acontecesse? Se não tem certeza, não compartilhe.

2) Faça uma verificação rápida para ver se você pode encontrar a mesma história ou narrativa em fontes diferentes e confiáveis. Uma breve pesquisa na Internet sobre um título lhe dará pistas sobre a história real.

3) Encontre outra versão e compare. Se você não confia em uma declaração, uma imagem ou um vídeo, descreva-o em uma pesquisa do Google ou do DuckDuckGo, encontre outra versão e compare as duas. Você pode usar uma pesquisa padrão da Internet para isso ou tentar uma busca reversa de imagem, que ajuda a descobrir se uma fotografia já foi usada antes e, em caso afirmativo, quando e como foi utilizada. 

4) Detectar traços quase (in) visíveis em mídias sintéticas e manipuladas é um desafio muito maior. Essa manipulação pode ser detectada procurando "saltos" estranhos em um vídeo, mudança na ênfase da voz, áudio de baixa qualidade, pontos borrados, formas estranhas de membros e outras inconsistências incomuns. Confie em seus sentidos e intuição. Sempre se pergunte: isso faz sentido? Isso poderia realmente ser verdade? Olhe com atenção – e mais de uma vez. Concentre-se nos detalhes e peça uma segunda opinião a um amigo ou colega.

Verifique se há sinais que demonstram que pode ser uma falsificação: uma face perfeitamente simétrica; brincos ou óculos que não combinam; formas incomuns de orelhas, nariz e dentes; perda de contraste; inconsistências na área do pescoço, cabelo ou dedos que não estão conectados.

Às vezes, você precisará assistir a um vídeo quadro a quadro para detectar essas inconsistências. Você pode fazer isso com um reprodutor de vídeo no seu computador (por exemplo, VLC media player) ou online, com o watchframebyframe.com.

5) Amplie os movimentos da boca e dos lábios e compare-os com o seu próprio comportamento humano para detectar a sincronização. Qual deve ser a aparência de uma boca ao emitir um determinado som?

Aguce seus sentidos

Você notou que um aspecto essencial da verificação é usar seus sentidos. E a boa notícia é que você pode treiná-los. No treinamento disponível neste link (em inglês), você encontrará exercícios para aprimorar sua visão e audição. Fazer esses exercícios o deixará mais confiante para detectar traços quase (in) visíveis em mídias sintéticas e manipuladas.

Perigo de tecnologia deepfake

O impacto da tecnologia deepfake é profundo na pornografia, incluindo a chamada pornografia de vingança. Vídeos e imagens pornôs falsos estão sendo amplamente publicados e vem causando danos às vítimas, que vão desde celebridades até crianças em idade escolar.

Para a sociedade, o perigo das deepfakes também reside na forma de consumir a mídia hoje em dia. A pessoa média é inundada com mídia enquanto está online - e nem sempre tem certeza de que o que compartilha é realmente verdade.

Em sociedades polarizadas, esse comportamento deixa ampla margem para enganar as pessoas, para que acreditem em algo - não importa a veracidade.

Desta forma, a qualidade do vídeo nem é tão importante. O que realmente importa é o que você aparentemente viu, com seus próprios olhos, mesmo que não seja verdade: que o então ministro grego das Finanças, Yanis Varoufakis, mostrou o dedo do meio para Alemanha, que David Beckhamfalava nove línguas, ou que  Mark Zuckerberg afirmou controlar pessoas com dados roubados.

Uma deepfake politicamente motivada que se tornou viral na Holanda foi criada pelo site de notícias De Correspondent e parece mostrar o primeiro-ministro holandês, Mark Rutte, supostamente mudando sua postura política: de agora em diante, ele apoiará totalmente medidas climáticas de longo alcance.

Há, ainda, o "dividendo do mentiroso", que sugere que alguns políticos lucram com um ambiente saturado de desinformação. A mera existência dessa tecnologia permite que as pessoas afirmem que tudo o que disseram é uma falsificação - e provar que é realmente real é extremamente desafiador. O exemplo mais conhecido é de Donald Trump alegando que uma gravação, na qual diz que pode fazer tudo com as muheres pois é famoso, é "uma farsa", mesmo depois de inicialmente se desculpar pelo ocorrido.

Lição aprendida

A maior parte da desinformação é publicada para semear dúvidas, reforçar crendices ou para se opor ruidosamente a outras ideias. É muito desafiador verificar imagens e sons que foram retirados de contexto, editados ou encenados. Ainda assim, por enquanto, você pode treinar para identificar melhor uma deepfake. E lembre-se: se você não tiver certeza, não compartilhe!