Uso malicioso de IA: DeepFake

IA é uma palavra chave da indústria no momento. De cibersegurança à IoT, parece que não há como escapar da influência da inteligência artificial. Como tecnologia, sem dúvida, transformará nossas vidas, nos tornando mais inteligentes e mais produtivos e eficientes. No entanto, há sempre uma preocupação com as novas tecnologias que podem ser usadas para fins maliciosos, e a IA não está isenta disso.

Por muitos anos, produtores e artistas usaram Photoshop e CGI para manipular imagens para fins de entretenimento. Agora, usando a IA, as pessoas encontraram maneiras de criar vídeos falsos que parecem autênticos e confiáveis. Por exemplo, o Buzzfeed postou um vídeo em seu canal no YouTube, demonstrando como um software recente pode enganar e distorcer a realidade. O vídeo mostra o ex-presidente dos EUA, Barack Obama, falando para a câmera, apenas para, em seguida, mostrar ao espectador que se trata de um vídeo falso. Um impostor copiou o rosto de Obama e “colou” sobre o seu, com suas próprias expressões faciais e fala. Embora espectadores atenciosos consigam perceber que a voz não está correta, é difícil imaginar que, num futuro, falhas como essas não serão suavizadas.

Então, por que os DeepFakes são importantes?

Eles são importantes porque, ao contrário de outros programas de inteligência artificial, eles exigem muito pouco conhecimento técnico ou talento e são espantosamente muito reais.

O Deepfake IA funciona de maneira diferente de outros programas de troca de face. Em vez de colocar um rosto sobre o outro em tempo real, o DeepFake utiliza centenas de imagens de quadros fixos tiradas de vídeos. Em seguida, ele pesquisa essas imagens, identifica os rostos e, em seguida, usa esse conhecimento para costurar uma sobre a outra. Surpreendentemente, há muito pouco custo associado a isso também.

Com a era digital inovando cada vez mais em ataques cibernéticos novos e cada vez mais complexos, esses vídeos podem se tornar uma ameaça real. É tão fácil falsificar um vídeo pessoal. As ramificações disso podem causar um dano duradouro para a segurança pública, e para questões de confiança e privacidade; particularmente em relação aos funcionários do governo. Para todas as influências positivas que a IA traz, ainda há muito em que precisamos trabalhar. Compartilhar esta postagem é a melhor maneira de privar os criadores de vídeos falsos, com suas más intenções, de causar danos.