Deepfake

Imagine uma nova tecnologia de mídia capaz de permitir que uma pessoa simplesmente 

pegue um determinado texto, imagem, vídeo ou áudio existente e depois manipule-o de

tal forma ao ponto de “fingir” ser alguém usando conceitos avançados de inteligência

 artificial (AI) e rede neural (NN). Bizarro, não é mesmo? Pois bem, essa tecnologia já

 existe e se chama #deepfake.

Quer colocar palavras comprometedoras na boca do seu inimigo?

 Deseja trocar o protagonista de um determinado filme com sua 

estrela favorita de Hollywood? Ou quer simplesmente

 dançar como Michael Jackson? Pois bem, para cada 

uma dessas opções, a tecnologia #deepfake é a única coisa 

que você precisa!

A quantidade de conteúdo ligada à tecnologia deepfake

está crescendo exponencialmente. Infelizmente, ela já foi usada

 para manchar a reputação de rivais políticos e serviu até

 mesmo como ferramenta para a aplicação de fraudes

 financeiras. Ou seja, mesmo se tratando de algo

 relativamente recente, a tecnologia deepfake evoluiu de

 uma ingenuidade tecnológica para uma arma maliciosa de calúnia.

Neste artigo, veremos como ela funciona na prática, quais são

 as suas diferentes formas e como podemos detectar uma criação

 deepfake.

Vídeos quase realistas

Está a forma mais usada de deepfake, já que estamos vivendo no

 mundo onipresente das mídias sociais onde fotos e vídeos 

elucidam eventos e histórias melhor do que um simples texto.

 Este truque de vídeo emprega

uma técnica chamada rede adversária generativa (GAN). A GAN

 faz parte das chamadas “redes neurais”, que são redes projetadas

 para emular os processos neuronais do cérebro humano.

 Assim, os programadores podem treinar essas redes neurais para

 reconhecer ou manipular uma tarefa específica.

Nesse método usado para a produção de vídeos deepfake, duas

 redes neurais são colocadas uma contra a outra para gerar um 

resultado realista. A primeira rede é chamada de “gerador”, cujo

 trabalho é gerar uma imagem forjada usando vetores 

(uma lista de números aleatórios). A segunda rede, chamada

 “discriminadora”, determina a veracidade das imagens geradas 

ao comparar a imagem falsificada produzida pelo gerador

 com as imagens genuínas no conjunto de dados para determinar

 quais imagens são reais e quais são falsas.

Com base nesses resultados, a rede geradora varia os seus

 parâmetros para gerar imagens. Esse ciclo continua até que o 

não consiga verificar se uma imagem gerada é falsa. É por isso

 que os vídeos deepfakes parecem ser tão reais.

Ainda assim, um vídeo deepfake tende a apresentar diferenças

 discerníveis por conta da forma como os metadados do 

novo vídeo são distribuídos, em comparação com o original.

 Por exemplo, as pessoas recriadas nesse tipo de vídeo

 dificilmente piscam os olhos e, quando fazem isso, a piscada 

não aparenta ser natural. Além disso, a movimentação rígida dos

 lábios e a forma como a cabeça balança também podem

 fornecer pistas indicativas de que o vídeo é falso.

Texto deepfake

Com os poderosos modelos de linguagem que foram construídos

 ao longo dos anos pelo trabalho incremental de pesquisadores e

 profissionais da ciência de dados, ferramentas de software agora

 podem compor textos absurdamente coerentes.

Tomemos, por exemplo, o GPT-2, um sistema de geração de texto

 lançado pelo laboratório de pesquisa OpenAI do Vale do Silício. 

Essa tecnologia impressionou os especialistas com sua capacidade

 de produzir textos coerentes com o mínimo de erros. Usando 

o GPT-2, você pode simplesmente inserir o título e o algoritmo 

de texto deepfake gerará uma redação fictícia em torno desse título.

 Você também pode simplesmente fornecer uma primeira linha de

 um poema e ele retornará o versículo inteiro.

Muitas agências de mídia estão usando algoritmos deepfake para 

gerar textos e postagens de blogs escritos pelo próprio software. 

Juntamente com a geração de artigos, a tecnologia deepfake 

também pode ser aproveitada para criar um perfil on-line falso 

tão realista que seria difícil para um usuário normal discernir.

Para combater a disseminação de notícias falsas que fazem

 o uso dessa tecnologia, pesquisadores do Instituto Allen de 

Inteligência Artificial desenvolveram uma ferramenta de software 

chamada Grover para detectar conteúdos falsos online. 

Os pesquisadores afirmam que este software é capaz de detectar

 textos escritos por deepfake em 92% dos casos.

Áudio deepfake

O poder da inteligência artificial e das redes neurais não se limita 

apenas a textos, imagens e vídeos. Essas tecnologias podem 

clonar a voz de uma pessoa com a mesma facilidade. Tudo o que

 é necessário é um conjunto de dados da gravação de áudio 

da pessoa cuja voz precisa ser emulada. Os algoritmos do 

deepfake aprenderão com esse conjunto de dados e se capacitarão

 para recriar um novo áudio.

Alguns softwares como o Lyrebird e o Deep Voice precisam que 

você fale apenas algumas frases antes que a IA se acostume 

com sua voz e entonação. À medida que você alimenta a 

biblioteca com mais áudios, esse software se torna poderoso o

 suficiente para clonar sua voz. Depois de alimentar o conjunto

 de dados de suas próprias amostras de áudio, você pode 

simplesmente inserir uma frase ou um parágrafo e este software

 deepfake narrará o texto com a voz desejada!

Vale destacar que empresas gigantes da tecnologia também 

estão trabalhando em sistemas de detecção de #deepfakes. 

O Facebook anunciou recentemente que está trabalhando em

 um sistema automatizado para identificar conteúdos #deepfake em

 sua plataforma e eliminá-los. Em linhas semelhantes, o Twitter

 propôs sinalizar deepfakes e eliminá-los se forem considerados 

provocadores.

Apesar de já podermos reconhecer e apreciar os esforços 

dessas empresas de tecnologia, apenas o tempo dirá quão

 bem-sucedidas elas serão em manter os #deepfakes maliciosos

 à distância.

Muito interessante, não é mesmo? Compartilhe o post 

e deixe o seu comentário!