Facebook lança nova ferramenta de inteligência artificial para vigiar pornografia de vingança

A partir de hoje, o Facebook conta com uma nova ferramenta de inteligência artificial que, segundo a empresa, ajudará a detectar e sinalizar de forma proativa imagens e vídeos íntimos postados sem o consentimento dos envolvidos, a chamada pornografia de vingança.

O sistema funciona tanto para o Facebook quanto para o Instagram, e, ao contrário dos filtros atuais, consegue detectar até conteúdos que apresentam “quase nu”. Este conteúdo, então, é sinalizado e enviado para um moderador humano para revisão.

Atualmente, esse tipo de conteúdo é verificado apenas após denúncias dos usuários: “Muitas vezes, as vítimas têm medo de retalhações, então elas relutam em relatar o conteúdo ou até não sabem que o conteúdo foi compartilhado”, explica a chefe de segurança global do Facebook, Antigone Davis. Com o novo sistema de inteligência artificial, a empresa espera as postagens sejam encontradas “antes mesmo que alguém o relate”, ressalta.

A eficácia do sistema, porém, ainda é difícil de saber. Há muito tempo, o Facebook apresenta a inteligência artificial como uma solução para os problemas de moderação em suas plataformas, mas mesmo com a implantação dessa tecnologia, os problemas parecem não diminuir.

Também não está claro como a nova ferramenta faz essa verificação. O Facebook, por si, só ressalta que assim como a remoção de conteúdo terrorista, esse processo é muito mais preciso do que um filtro automatizado, e diz estar ciente de que os usuário desejam saber mais sobre suas ferramentas e que quer “explicar e esclarecer melhor o processo”.

Um relatório da Associated Press diz que o sistema não olha apenas para as imagens em si, mas também para as legendas que as acompanham. Se a legenda contiver “texto depreciativo ou vergonhoso”, provavelmente significa que “alguém enviou a foto para constranger ou se vingar de outra pessoa”, explica a publicação.