Os animais de estimação do robô de IA podem ser adoráveis ​​e emocionalmente responsivos. Eles também levantam questões sobre apego e saúde mental

Lembra-se de Furbies-os brinquedos misteriosos e parecidos com Gremlin do final dos anos 90 que ganharam um culto a seguir? Agora, imagine um alimentado por Chatgpt. Foi exatamente o que aconteceu quando um programador reconstruiu um furby, apenas para revelar uma visão assustadora e distópica da dominação mundial. Como o brinquedo explicou, “o plano de Furbies de dominar o mundo envolve infiltrando famílias através de sua aparência fofa e fofa e, em seguida, usando a tecnologia avançada de IA para manipular e controlar seus proprietários. Eles lentamente expandirão sua influência até que tenham total domínio sobre a humanidade”.

O relançamento de Furby, em junho de 2023 da Hasbro-menos de três meses após o vídeo com o plano sinistro dos brinquedos apareceu on-line-entregada à nostalgia dos anos 90, revivendo um dos brinquedos clássicos do culto da década. Mas a tecnologia está evoluindo rapidamente – passando de brinquedos peculiares e retrô para máquinas emocionalmente inteligentes.

Entre no ROPET, um animal de estimação robótico de IA revelado no show anual de eletrônicos de consumo em janeiro. Projetado para fornecer companheirismo interativo, o ROPET é tudo o que admiramos e teme na inteligência artificial: é adorável, inteligente e emocionalmente responsivo. Mas se optarmos por trazer esses companheiros de IA ultra-fofos para nossas casas, devemos nos perguntar: estamos realmente preparados para o que vem a seguir?

Companhia de AI e suas complexidades

Estudos em marketing e interação humano-computador mostram que a IA conversacional pode simular de forma convincente as interações humanas, potencialmente fornecendo realização emocional para os usuários. E a companhia orientada pela IA não é nova. Aplicativos como o Replika pavimentaram o caminho para o romance digital anos atrás, com os consumidores formando conexões emocionais íntimas com seus parceiros de IA e até sofrendo angústia ao receber a intimidade negada, como evidenciado pela indignação massiva do usuário que se seguiu à remoção da Replika do modo de interpretação erótica, fazendo com que a empresa o traga por alguns usuários.

Os companheiros de IA têm o potencial de aliviar a solidão, mas seu uso não controlado levanta sérias preocupações. Relatórios de tragédias, como os suicídios de um garoto de 14 anos nos EUA e um homem de trinta e poucos anos na Bélgica, que supostamente seguem apegos intensos para chatbots, destacam os riscos de intimidade de IA não regulamentada-especialmente para indivíduos socialmente excluídos, minúsculos e idosos, que podem ser os mais necessários da empresa.

Como mãe e cientista social, não posso deixar de fazer a pergunta: o que isso significa para nossos filhos? Embora a IA seja um garoto novo no quarteirão, os brinquedos virtuais de animais de estimação emocionalmente imersivos têm um histórico de moldar as mentes jovens. Nos anos 90 e 2000, Tamagotchis-pequenos animais digitais alojados em dispositivos do tamanho de um chaveiro-lideraram quando “morreram” depois de apenas algumas horas de negligência, seus proprietários humanos retornando à imagem de um animal de estimação fantasmagórico flutuando ao lado de uma lápide.

Agora, imagine um animal de estimação da AI que se lembra de conversas, forma respostas e se adapta a pistas emocionais. Esse é um nível totalmente novo de influência psicológica. O que as salvaguardas impedem uma criança de formar um apego prejudicial a um animal de estimação da IA?

Pesquisadores nos anos 90 já estavam fascinados pelo “efeito Tamagotchi”, que demonstrou o intenso apego que as crianças se formam para animais de estimação virtuais que sentir real. Na era da IA, com os algoritmos das empresas cuidadosamente projetados para aumentar o engajamento, esse apego pode abrir a porta para laços emocionais. Se um animal de estimação movido a IA como Ropet expressa tristeza quando ignorado, um adulto pode descartá-lo racionalmente-mas para uma criança, pode parecer uma verdadeira tragédia.

Os companheiros de IA, adaptando -se aos comportamentos de seus proprietários, se tornaram muletas psicológicas que substituem a interação humana? Alguns pesquisadores alertam que a IA pode embaçar os limites entre companhia artificial e humana, levando os usuários a priorizar os relacionamentos de IA sobre as conexões humanas.

Quem é o dono do seu animal de estimação da AI – e dos seus dados?

Além dos riscos emocionais, há grandes preocupações sobre segurança e privacidade. Os produtos orientados a IA geralmente dependem do aprendizado de máquina e do armazenamento em nuvem, o que significa que seus “cérebros” existem além do robô físico. O que acontece com os dados pessoais que eles coletam? Esses animais de estimação da IA ​​podem ser hackeados ou manipulados? O recente vazamento de dados DeepSeek, no qual mais de 1 milhão de registros sensíveis, incluindo logs de bate -papo de usuário, foram tornados acessíveis ao público, é um lembrete de que os dados pessoais armazenados pela IA nunca são realmente seguros.

A Robot Toys levantou preocupações de segurança no passado: no final dos anos 90, os Furbies foram proibidos da sede da Agência de Segurança Nacional dos EUA sobre os temores de que eles poderiam gravar e repetir informações classificadas. Com os brinquedos de hoje se tornando cada vez mais sofisticados, as preocupações com a privacidade e a segurança dos dados são mais relevantes do que nunca.

O futuro dos companheiros de IA: regulamentação e responsabilidade

Vejo o potencial incrível – e os riscos significativos – da companhia de IA. No momento, os animais de estimação orientados a IA estão sendo comercializados principalmente para adultos com conhecimento de tecnologia, como visto no anúncio promocional de Ropet, com uma mulher adulta que se unia ao animal de estimação robótico. No entanto, a realidade é que esses produtos inevitavelmente encontrarão o seu caminho nas mãos de crianças e usuários vulneráveis, levantando novas preocupações éticas e de segurança. Como as empresas como o ROPET navegam nesses desafios antes que os animais de estimação da IA ​​se tornem mainstream?

Resultados preliminares de nossa pesquisa em andamento sobre companhia de IA – conduzida em colaboração com o Dr. Stefania Masè (IPAG Business School) e o Dr. Jamie Smith (Fundação Getulio Vargas) – sugere uma linha tênue entre a companheira de apoio e a dependência não saudável. Em um mundo onde a IA simula de forma convincente emoções humanas, cabe a nós como consumidores avaliar criticamente qual o papel que esses amigos robóticos devem desempenhar em nossas vidas.

Ninguém sabe realmente para onde a IA está indo em seguida, e as discussões públicas e da mídia sobre o assunto continuam a ultrapassar os limites do que é possível. Mas em minha casa, é o charme nostálgico de balbuciar, cantando furbies que governam o dia. A Ropet afirma ter um objetivo principal – ser o “One e Only Love” de seu proprietário – e isso já soa como uma ameaça distópica para mim.

Este artigo é republicado da conversa sob uma licença Creative Commons. Leia o artigo original.