Google trabalha em ferramenta que detecta uso de deepfakes

Os deepfakes se tornaram uma das grandes preocupações da internet na era das fake news. Com o uso de softwares capazes de inserir qualquer rosto em um vídeo ou fotografia, a propagação de imagens falsas se tornou mais acessível e, se utilizada com más intenções, pode se tornar até mesmo uma ferramenta política ou de coerção social.

O aplicativo chinês Zao, por exemplo, viralizou nas redes ao oferecer o serviço de criação de deepfakes em cima de registros de filmes, clipes e séries de televisão. Alguns meses antes, um app semelhante apareceu no noticiário por criar nudes de mulheres com a tecnologia.

Agora, o Google decidiu tomar uma medida para combater os deepfakes e seu potencial impacto negativo na sociedade. A empresa reuniu pesquisadores que utilizarão um banco de dados de deepfakes para criar uma ferramenta de detecção automática.

O banco de dados, vale dizer, é gigantesco, contendo mais de três mil imagens falsas que serão utilizadas para detectar o uso de ferramentas como a do Zao. A gigante tecnológica filmou atores em uma grande variedade de cenas e utilizou ferramentas de deepfake para criar esse banco de imagens falsas a partir dos registros. A ideia é desenvolver com o tempo um software que possa detectar automaticamente quando uma imagem for falsa.

O Google não é a única gigante do mercado engajada com o assunto, vale lembrar. O Facebook e a Microsoft também estão envolvidos em uma iniciativa para criar soluções por meio do lançamento de ferramentas abertas para que autoridades, imprensa e empresas possam detectar o uso de deepfakes para gerar imagens enganosas. Além disso, diversas redes sociais já baniram os produtos da tecnologia de suas plataformas e o sindicato de atores de Hollywood tomou providências legais no primeiro semestre para garantir a proteção de seus membros.