Estudo destaca preconceito racial em assistentes virtuais

Um estudo realizado pela Universidade de Stanford identificou disparidades raciais significativas nos sistemas de reconhecimento de fala de 5 das maiores empresas de tecnologia do mundo. De acordo com a pesquisa, sistemas da Amazon, Apple, Google, IBM e Microsoft cometem muito mais erros com usuários negros do que com brancos.

As médias das 5 empresas mostram que os sistemas identificaram erroneamente as palavras dos brancos cerca de 19% das vezes. Para os negros, esse número saltou para 35%. Além disso, cerca de 2% do áudio de pessoas brancas era considerado ilegível, enquanto esse número subia para 20% para pessoas negras.

O estudo sugere que esses sistemas de reconhecimento de fala podem ter falhas porque sua tecnologia não está sendo treinada em dados adequadamente diversos. O The New York Times procurou essas empresas de tecnologia para comentar os resultados do estudo e apenas o Google respondeu, afirmando que está "trabalhando no desafio de reconhecer com precisão as variações de discurso há vários anos e continuaremos a fazê-lo".

O estudo é o mais recente a destacar a questão do preconceito racial na inteligência artificial. Nos últimos anos, analistas já têm apontado que o reconhecimento facial demonstra preconceito racial e de gênero, enquanto testes separados mostraram consistentemente como os chatbots podem rapidamente entrar em conflito com o comportamento sexista e racista.