Este vídeo do Obama prova que o futuro do fake news é assustador

Nova tecnologia ensina modelo de IA a copiar discursos de personalidades

por Pedro Strazza

Fenômeno que foi decisivo para o rumo das eleições presidenciais norte-americanas do ano passado, o fake news vem sendo estudado com interesse desde que seu uso ajudou a colocar o empresário Donald Trump no cargo mais alto da hierarquia política dos Estados Unidos. Espalhando desinformação e confundindo o público por meio de artigos, posts e bots de Twitter, ele é capaz de favorecer determinados grupos e indivíduos com mentiras e calúnias fabricadas, cuja veracidade é muito pouco debatida nas redes sociais onde atua. E com o inevitável avanço da tecnologia, essa situação pode ficar ainda mais complicada.

Um grupo de pesquisadores da Universidade de Washington divulgou essa semana um vídeo que demonstra como fabricar uma versão digital autônoma de Barack Obama. Usando de clipes de áudio do ex-presidente e de algoritmos criados especificamente para acompanhar e manipular movimentos da boca, o estudo com sucesso conseguiu reproduzir discursos feitos por Obama em diversas ocasiões no passado em um modelo de inteligência artificial, com cenário e ângulo de câmera próprios que reproduzem um discurso oficial. Os exemplos são vários e impressionantes: de entrevistas feitas com o ex-presidente no “60 Minutes” a declarações dadas por ele em sua juventude no começo dos anos 90, o modelo consegue dizer qualquer fala de Obama da maneira mais real possível.

Confira a versão resumida com os resultados acima e a mais longa (com as explicações de como foi criada a tecnologia) abaixo.

Tecnologias capazes de combinar áudio e manipulação do movimento dos lábios de um indivíduo não é exatamente uma novidade – a Universidade de Stanford alcançou um resultado parecido com o Face2Face  em tempos recentes -, mas o diferencial do estudo realizado em Washington é que o modelo desenvolvido por eles de fato aprende a imitar o seu objeto, reproduzindo seus tiques, gestos e modos de expressão com alta fidelidade. Isso à partir de uma quantidade absurda de material gravado, algo que só figuras públicas como Obama possuem e que é a única limitação imposta pelo modelo.

Essa restrição, porém, não impede que esta tecnologia possa ser usada para fins bastante perigosos. Ainda que os pesquisadores digam que por meio de engenharia reversa é fácil descobrir que o vídeo é falso, eles também admitem que não é muito difícil de fazer o modelo dizer uma mensagem manipulada, seja por meio de um áudio que tenha sido previamente editado ou que contenha uma imitação do indivíduo retratado. A IA é capaz até de imprimir um tom diferente ao discurso, em um segundo alterando por completo o significado das palavras ditas pelo ex-presidente.

Ao fake news, essas possibilidades se multiplicam ao infinito. Com essa tecnologia em mãos, figuras de autoridade e celebridades passam a correr sério risco de terem suas imagens denegridas por vídeos falsos que manipulam seus discursos e são disseminados como um vírus pelas redes sociais. As imagens nunca foram tão duvidosas quanto agora.

Compartilhe: