Por que tantos robôs são brancos?

Problemas de preconceito racial e de gênero em algoritmos de inteligência artificial e nos dados usados ​​para treinar grandes modelos de linguagem como o ChatGPT chamaram a atenção de pesquisadores e geraram manchetes. Mas estes problemas também surgem nos robôs sociais, que têm corpos físicos modelados em versões não ameaçadoras de humanos ou animais e são concebidos para interagir com pessoas.

O objetivo do subcampo da robótica social denominado robótica socialmente assistida é interagir com grupos cada vez mais diversos de pessoas. A nobre intenção dos seus praticantes é “criar máquinas que melhor ajudem as pessoas a ajudarem-se a si mesmas”, escreve uma das suas pioneiras, Maja Matarić. Os robôs já estão sendo usados ​​para ajudar pessoas com autismo, crianças com necessidades especiais e pacientes com AVC que necessitam de reabilitação física.

Mas estes robôs não se parecem com pessoas nem interagem com elas de uma forma que reflita até mesmo aspectos básicos da diversidade da sociedade. Como sociólogo que estuda a interação humano-robô, acredito que esse problema só vai piorar. As taxas de diagnóstico de autismo em crianças negras são agora mais elevadas do que nas crianças brancas nos EUA. Muitas destas crianças podem acabar interagindo com robôs brancos.

Então, para adaptar a famosa hashtag do Twitter em torno do Oscar de 2015, por que #robotssowhite?

Por que os robôs tendem a ser brancos

Dada a diversidade de pessoas às quais serão expostos, por que Kaspar, projetado para interagir com crianças com autismo, tem uma pele de borracha que lembra a de uma pessoa branca? Por que Nao, Pepper e iCub, robôs usados ​​em escolas e museus, são revestidos com plástico branco e brilhante? Em The Whiteness of AI, o especialista em ética tecnológica Stephen Cave e o pesquisador de comunicação científica Kanta Dihal discutem o preconceito racial na IA e na robótica e observam a preponderância de imagens on-line de robôs com superfícies brancas reflexivas.

O que está acontecendo aqui?

Uma questão é quais robôs já existem. A maioria dos robôs não são desenvolvidos do zero, mas adquiridos por laboratórios de engenharia para projetos, adaptados com software personalizado e, às vezes, integrados a outras tecnologias, como mãos robóticas ou pele. As equipes de robótica são, portanto, limitadas pelas escolhas de design feitas pelos desenvolvedores originais (Aldebaran para Pepper, Instituto Italiano de Tecnologia para iCub). Essas opções de design tendem a seguir a aparência clínica e limpa com plástico branco brilhante, semelhante a outros produtos de tecnologia como o iPod original.

Num artigo que apresentei na reunião da American Sociological Association de 2023, chamo a isto “a pobreza do imaginário concebido”.

Como a sociedade imagina os robôs

No livro clássico da antropóloga Lucy Suchman sobre interação homem-máquina, que foi atualizado com capítulos sobre robótica, ela discute um “imaginário cultural” de como os robôs deveriam ser. Um imaginário cultural é aquilo que é partilhado através de representações em textos, imagens e filmes, e que coletivamente molda as atitudes e percepções das pessoas. Para os robôs, o imaginário cultural é derivado da ficção científica.

Este imaginário cultural pode ser contrastado com as preocupações mais práticas de como as equipes de ciência da computação e de engenharia veem os corpos dos robôs, o que Neda Atanasoski e Kalindi Vora chamam de “imaginário projetado”. Esta é uma área muito contestada nos estudos científicos feministas, com, por exemplo, “The Robotic Imaginary” de Jennifer Rhee e “Surrogate Humanity” de Atanasoski e Vora, críticos dos pressupostos raciais e de gênero que levam as pessoas a projetar robôs de serviço – projetados para realizar tarefas mundanas – como mulher.

O imaginário cultural que consagra os robôs como brancos, e na verdade geralmente femininos, remonta à antiguidade europeia, juntamente com uma explosão de romances e filmes no auge da modernidade industrial. Desde a primeira menção da palavra “android” no romance de 1886 de Auguste Villiers de l’Isle-Adam “The Future Eve”, a introdução da palavra “robô” na peça de 1920 de Karel Čapek “Robôs Universais de Rossum” e o robô sexualizado Maria, no romance “Metropolis”, de 1925, de Thea von Harbou – a base do famoso filme homônimo de seu marido Fritz Lang, de 1927 -, os robôs fictícios foram rapidamente feminizados e tornados servis.

Talvez o protótipo deste imaginário cultural esteja na Roma Antiga. Um poema em “Metamorfoses” de Ovídio (8 dC) descreve uma estátua de Galatea “de marfim branco como a neve” pela qual seu criador Pigmalião se apaixona. Pigmalião ora a Afrodite para que Galatéia ganhe vida, e seu desejo é atendido. Existem inúmeras adaptações literárias, poéticas e cinematográficas da história, incluindo um dos primeiros efeitos especiais do cinema no filme de Méliès de 1898. Pinturas que retratam este momento, por exemplo de Raoux (1717), Regnault (1786) e Burne-Jones (1868-70 e 1878), acentuam a brancura da carne de Galatea.

Rota interdisciplinar para a diversidade e inclusão

O que pode ser feito para contrariar este legado cultural? Afinal, toda interação homem-máquina deve ser projetada tendo em mente a diversidade e a inclusão, segundo os engenheiros Tahira Reid e James Gibert. Mas fora dos robôs etnicamente japoneses do Japão, os robôs projetados para não serem brancos são raros. E os robôs do Japão tendem a seguir o estereótipo subserviente do género feminino.

A solução não é simplesmente embrulhar as máquinas em plástico marrom ou preto. O problema é mais profundo. O “robô de personagem personalizado” Bina48, inspirado na cabeça e nos ombros da esposa afro-americana de um milionário, Bina Aspen, é notável, mas sua fala e interações são limitadas. Uma série de conversas entre Bina48 e a artista afro-americana Stephanie Dinkins é a base de uma videoinstalação.

O absurdo de falar sobre racismo com uma cabeça desencarnada e animada torna-se aparente em uma dessas conversas – ela literalmente não tem nenhuma experiência pessoal digna de menção, mas suas respostas alimentadas por IA referem-se à experiência de racismo de uma pessoa não identificada enquanto crescia. Estas são memórias implantadas, como as “memórias” dos andróides replicantes dos filmes “Blade Runner”.

Os métodos das ciências sociais podem ajudar a produzir um “imaginário projetado” mais inclusivo, como discuti no festival Being Human de Edimburgo em novembro de 2022. Por exemplo, trabalhar com Guy Hoffman, um roboticista de Cornell, e Caroline Yan Zheng, então Ph.D. estudante de design do Royal College of Art, convidamos contribuições para uma publicação intitulada Critical Perspectives on Affective Empowered Interaction.

Um dos fios persistentes nessa colaboração e noutros trabalhos é o quanto os corpos das pessoas comunicam uns com os outros através de gestos e expressões, bem como de vocalização, e como isso difere entre culturas. Nesse caso, fazer com que a aparência dos robôs reflita a diversidade de pessoas que se beneficiam da sua presença é uma coisa, mas e quanto a diversificar as formas de interação? Além de tornarem os robôs menos universalmente brancos e femininos, cientistas sociais, designers de interação e engenheiros podem trabalhar em conjunto para produzir mais sensibilidade intercultural em gestos e toque, por exemplo.

Esse trabalho promete tornar a interação humano-robô menos assustadora e misteriosa, especialmente para as pessoas que precisam da ajuda das novas raças de robôs socialmente assistenciais.

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.