Pesquisadores criam inteligência artificial psicótica com base em fóruns do Reddit
Norman gosta de assassinatos e mortes estranhas
O Reddit é um local pouco amistoso para humanos – ou qualquer forma de inteligência, aparentemente. Cientistas do MIT (Instituto de Tecnologia de Massachusetts) criaram a primeira inteligência artificial psicopata. Norman, como é chamado por seus criadores, é um experimento com base na leitura de dados de fóruns do Reddit. A partir dessa exposição prolongada, a equipe foi capaz de criar o primeiro AI com tendências assassinas.
Batizado com o nome do proprietário do clássico de Alfred Hitchcock, “Psycho”, Norman é o resultado daquilo que consome. Sua inteligência é treinada a partir de um método popular de aprendizagem profunda, capaz de se instruir através de figuras, gerando suas descrições textuais. Ele foi treinado com imagens de um grupo do Reddit que dedicado a assuntos envolvam morte e as particularidades ao redor dela.
Para analisar seu comportamento, a equipe colocou Norman ao lado de uma rede neural padrão. Os dois fizerem um teste para detecção de distúrbios mentais com as manchas Rorschach, e as as repostas deixaram a psicose de Norman evidente.
Confira as imagens:
A pesquisa completa está aqui.
A criação de Norman tem um objetivo claro: demonstrar que os algoritmos da inteligência artificial não são culpados pelo comportamento do AI em si, mas sim o tipo de informação que está pro trás de sua construção. Segundo os pesquisadores, ele é um exemplo claro dos perigos de utilizar dados tendenciosos em sistemas de aprendizado da máquina.
Embora o teste de Rorschach seja debatido na comunidade científica, as respostas de Norman são assustadoras por si só. Além disso, as questões levantadas pela equipe do MIT são bastante válidas para o cenário atual. Em uma realidade em que inteligências similares decretam riscos de crédito ou criam eventos para noivos, entender quais informações estão por trás da sua criação e especificar quais os critérios de dados devem ser utilizados, é uma necessidade bem evidente.
Qualquer filme distópico que envolva robôs pode nos assegurar que o futuro ao lado de inteligências como Norman não é promissor para a raça humana. Porém, como já era de se esperar, isso também parece ser culpa humana.
