O que é deepfake? Devo me preocupar com isso?

A Deepfake é uma técnica de síntese de imagens humanas baseada em inteligência artificial. A tecnologia é usada para produzir ou alterar o conteúdo de um vídeo para que ele mostre algo que não aconteceu de verdade. O termo foi usado pela primeira vez em 2017 por um usuário do Reddit, que usou a tecnologia de aprendizado profundo para colocar rostos de celebridades renomadas em vídeos pornográficos – uma prática que agora foi proibida na web.

A IA aprende como é o rosto de determinada pessoa e o transpõe para a expressão de outra pessoa.

Como os deepfakes são criados por meio da IA, eles não exigem muita habilidade e tempo para que se crie um vídeo bem realista. Hoje qualquer pessoa pode baixar o software deepfake e criar vídeos falsos convincentes como passatempo. De fato, agora mesmo você pode baixar um programa de código aberto e, com um computador poderoso, começar a criar seus próprios deepfakes ao ler este artigo.

Infelizmente, a desvantagem dessa tecnologia é que qualquer um pode criar um vídeo deepfake, o que pode ter consequências terríveis. A possibilidade de provocar indignação internacional com um vídeo de um líder mundial emitindo um alerta de emergência sobre um possível  ataque, por exemplo, é certamente um risco. Se as pessoas começarem a levar os vídeos deepfake ao pé da letra, existe o risco de amanhã, elas não confiarem mais no conteúdo de vídeo algum.

A psicologia por trás do porquê essa tecnologia tem o potencial de ser tão poderosa vem do fato de que os seres humanos buscam informações que apoiam o que eles querem acreditar e ignoram o resto. Explorar essa tendência humana dá muito poder aos participantes maliciosos. Já vemos isso com a enxurrada de desinformação (as chamadas “fake news”) que cria notícias falsas que depois se espalham sob o disfarce da verdade. No momento em que as informações são devidamente verificadas, muitas pessoas já acreditaram naquela notícia. Portanto, é imperativo que, para evitar a disseminação de informações erradas, você utilize sites respeitados, como BBC, Le Monde ou Financial Times, só assim você pode garantir a legitimidade das notícias lidas e compartilhadas.

Como detectar vídeos manipulados

Enquanto os recursos do aprendizado de máquina para produzir deepfakes estão evoluindo, o mesmo ocorre com o software que os detecta. Os aplicativos que criam deepfakes também não permitem que você faça upload de seu rosto ou de qualquer político por risco de difamação antes de uma eleição. Além disso, com pessoas famosas, muitas vezes é fácil encontrar a cena no filme original e é mais difícil fazer um deepfake convincente se a qualidade da filmagem for ruim, o que significa que vídeos mais antigos têm menos probabilidade de serem impactados. Além disso, as plataformas de mídia social estão gastando milhões de libras em pesquisas para ajudar a detectar conteúdo manipulado, o Facebook, por exemplo, se comprometeu com £ 5,8 milhões em Setembro de 2019.

Em última análise, espalhar a consciência de que os vídeos podem ser falsificados dessa maneira é a chave para evitar ser surpreendido ou ultrajado por um vídeo de alguém famoso. O melhor conselho em caso de depoimentos políticos é sempre esperar e ver se as notícias relatam algo sobre um vídeo que tenha sido alterado profundamente. E, se você optar por criar o seu próprio, leia com atenção os termos e condições do aplicativo para entender completamente o que ele faz com seus dados e se você pode solicitar que sua foto seja excluída de qualquer banco de dados em que ela possa ser armazenada.

O que você acha da tecnologia deepfake? Deixe-nos saber nos comentários abaixo. Você também pode conferir nossos outros blogs: