Um robô quase bateu na cabeça de um espectador do festival na China. Aqui estão quatro etapas urgentes para tornar a tecnologia mais segura

Os robôs humanóides deveriam ser nossos assistentes leais, mas vimos outro lado deles outro dia. A fabricante chinesa de robôs Unitree estava demonstrando seus mais recentes robôs H1 em um festival de lanternas na cidade de Taishan, província de Guangdong, quando se caminhou até a barreira da multidão e parecia investigar uma mulher idosa, quase a cabeça.

O incidente rapidamente se tornou viral e provocou um feroz debate sobre se o robô realmente atacou a mulher ou havia tropeçado. Está sendo esquecido principalmente que estamos muito longe de ter robôs que podem atacar intencionalmente alguém – maquinas como essas são frequentemente controladas remotas -, mas o perigo para o público é claramente real o suficiente.

Com as vendas de robôs humanóides definidos para disparar na próxima década, o público estará cada vez mais em risco com esses tipos de incidentes. Em nossa opinião, como pesquisadores de robótica, os governos pensaram muito nos riscos.

Aqui estão alguns passos urgentes que eles devem tomar para tornar os robôs humanóides o mais seguro possível.

1. Aumente os requisitos do proprietário

A primeira questão importante é até que ponto os robôs humanóides serão controlados pelos usuários. Enquanto o Optimus da Tesla pode ser operado remotamente por pessoas em um centro de controle, outras como o Unitree H1s são controladas pelo usuário com um joystick portátil.

Atualmente à venda por cerca de £ 90.000, eles vêm com um kit de desenvolvimento de software no qual você pode desenvolver seu próprio sistema de inteligência artificial (AI), embora apenas em uma extensão limitada. Por exemplo, poderia dizer uma frase ou reconhecer um rosto, mas não levar seus filhos para a escola.

Quem é o culpado se alguém se machucar ou mesmo morto por um robô controlado pelo ser humano? É difícil saber com certeza – qualquer discussão sobre responsabilidade envolveria provar se o dano foi causado por erro humano ou um mau funcionamento mecânico.

Isso surgiu em um caso da Flórida, onde um viúvo processou o fabricante de robôs médicos Intitive Surgical Inc sobre a morte de sua esposa em 2022. Sua morte estava ligada a ferimentos que ela sofreu de uma queima de calor no intestino durante uma operação causada por uma falha em uma das máquinas da empresa.

O caso foi retirado em 2024 depois de ser parcialmente julgado improcedente por um juiz distrital. Mas o fato de o viúvo ter processado o fabricante e não os médicos demonstrou que o setor de robótica precisa de uma estrutura legal para impedir essas situações tanto quanto o público.

Embora para os drones existam leis de aviação e outras restrições para governar seu uso em áreas públicas, não há leis específicas para robôs a pé.

Até agora, o único lugar para apresentar diretrizes de governança é a província de Xangai na China. Publicado no verão de 2024, incluem estipular que os robôs não devem ameaçar a segurança humana e que os fabricantes devem treinar usuários sobre como usar essas máquinas éticas.

Para os robôs controlados pelos proprietários, no Reino Unido, atualmente não há nada que impeça alguém de levar um cão de robô para passear em um parque movimentado, ou um robô humanóide para o pub para obter uma cerveja.

Como ponto de partida, poderíamos proibir as pessoas de controlar os robôs sob a influência de álcool ou drogas, ou quando se distraem, como o uso de seus telefones. Seu uso também pode ser restrito em ambientes de risco, como espaços confinados com muitos membros do público, lugares com incêndio ou riscos químicos e os telhados dos edifícios.

2. Melhore o design

Robôs que parecem elegantes e podem dançar e flip são divertidos de assistir, mas quão seguros são o público? Projetos seguros considerariam tudo, desde a redução das cavidades onde os dedos poderiam ser pegos, a componentes internos à prova d’água.

Barreiras de proteção ou exoesqueletos podem reduzir ainda mais o contato não intencional, enquanto os mecanismos de amortecimento podem reduzir o efeito de um impacto.

Os robôs devem ser projetados para sinalizar sua intenção através de luzes, sons e gestos. Por exemplo, eles devem, sem dúvida, fazer barulho ao entrar em uma sala para não surpreender ninguém.

Até os drones podem alertar seu usuário se eles perderem sinal ou bateria e precisarem voltar para casa, e esses mecanismos também devem ser incorporados aos robôs ambulantes. Atualmente, não há requisitos legais para tais recursos.

Não é que os fabricantes estejam ignorando inteiramente esses problemas para os robôs de caminhada. O GO2 quadrúpede de Unitree, por exemplo, pisca e bipe quando a bateria é baixa ou se estiver superaquecendo.

Ele também possui cortes de emergência automáticos nessas situações, embora devam ser acionados por um operador remoto quando o robô estiver no “modo telemétrico”. Fundamentalmente, no entanto, não há regulamentos claros para garantir que todos os fabricantes atendam a um certo padrão de segurança.

3. Operadores de trem

Claramente, haverá perigos com robôs usando recursos de IA, mas os modelos operados remotos podem ser ainda mais perigosos. Erros podem resultar da falta de treinamento e experiência do mundo real dos usuários em situações da vida real.

Parece haver uma grande lacuna de habilidades no treinamento do operador, e as empresas de robótica precisarão priorizar isso para garantir que os operadores possam controlar máquinas de maneira eficiente e segura.

Além disso, os seres humanos podem ter tardar os tempos de reação e a concentração limitada; portanto, também precisamos de sistemas que possam monitorar a atenção dos operadores de robôs e alertá -los para evitar acidentes. Isso seria semelhante aos sistemas de detecção de distração HGV-Driver que foram instalados em veículos em Londres em 2024.

4. Eduque o público

O incidente na China destacou os conceitos errôneos atuais sobre os robôs humanóides, pois a mídia está novamente culpando a IA, apesar do fato de que esse não era o problema. Isso corre o risco de causar desconfiança e confusão generalizadas entre o público.

Se as pessoas entenderem até que ponto os robôs de caminhada são operados ou operados remotos, isso mudará suas expectativas sobre o que o robô pode fazer e tornará todos mais seguros como resultado.

Além disso, entender o nível de controle do proprietário é vital para o gerenciamento das expectativas dos compradores e os preventões sobre o quanto eles precisam aprender sobre operar e programar um robô antes de comprar um.

Este artigo é republicado da conversa sob uma licença Creative Commons. Leia o artigo original.