A IA já está sendo combinada com a robótica – um resultado poderia ser novas armas poderosas

O interesse na incorporação de robôs em operações de segurança, policiamento e militares tem aumentado constantemente nos últimos anos. É um caminho já explorado na América do Norte e na Europa.

A integração de robôs nestas áreas pode ser vista como análoga à inclusão de cães em funções policiais e militares no século XX. Os cães serviram como guardas, sentinelas, portadores de mensagens e detectores de minas, entre outras funções.

Os robôs utilitários, concebidos para desempenhar um papel de apoio aos humanos, estão a imitar os nossos companheiros de quatro patas não só na forma, mas também na função. Montados com tecnologia de vigilância e capazes de transportar equipamento, munições e muito mais como parte das cadeias de reabastecimento, poderiam minimizar significativamente o risco de danos aos soldados humanos no campo de batalha.

No entanto, os robôs utilitários assumiriam, sem dúvida, uma dimensão diferente se lhes fossem adicionados sistemas de armas. Essencialmente, eles se tornariam variantes terrestres da aeronave MQ-9 Predator Drone atualmente em uso pelos militares dos EUA.

Em 2021, a empresa Ghost Robotics apresentou um de seus robôs de quatro patas, chamado Q-UGV, que estava armado com um rifle não tripulado de uso especial 4. O evento de demonstração inclinou-se para a transformação de robôs utilitários em armas.

É importante observar como cada aspecto desta fusão de armamento e robótica funciona de maneira diferente. Embora o robô em si seja semiautônomo e possa ser controlado remotamente, a arma montada não tem capacidade autônoma e é totalmente controlada por um operador.

Em setembro de 2023, os fuzileiros navais dos EUA conduziram um teste de prova de conceito envolvendo outro robô utilitário de quatro patas. Eles mediram suas habilidades para “adquirir e processar alvos com uma arma antitanque leve M72”.

O teste reacendeu o debate ético sobre o uso de sistemas de armas automatizados e semiautomáticos na guerra. Não seria um grande passo para qualquer uma dessas plataformas incorporar a detecção de ameaças orientada por IA e a capacidade de “travar” os alvos. Na verdade, sistemas de observação desta natureza já estão disponíveis no mercado aberto.

Em 2022, uma dúzia de empresas líderes de robótica assinaram uma carta aberta hospedada no site da Boston Dynamics, que criou um robô utilitário semelhante a um cachorro chamado Spot. Na carta, as empresas se manifestaram contra a transformação de robôs disponíveis comercialmente em armas.

No entanto, a carta também afirma que as empresas não questionam “as tecnologias existentes que as nações e as suas agências governamentais utilizam para se defenderem e fazerem cumprir as suas leis”. Nesse ponto, vale a pena considerar se o cavalo já disparou em relação à transformação da IA ​​em arma. Sistemas de armas com tecnologia inteligente integrada à robótica já estão sendo utilizados em combate.

Este mês, a Boston Dynamics divulgou um vídeo mostrando como a empresa adicionou o chatbot AI ChatGPT ao seu robô Spot. A máquina pode ser vista respondendo a perguntas e conversas de um dos engenheiros da empresa utilizando diversas “personalidades” diferentes, como um mordomo inglês. As respostas vêm do chatbot de IA, mas Spot pronuncia as palavras.

É um passo fascinante para a indústria e, potencialmente, positivo. Mas embora a Boston Dynamics possa estar a manter o seu compromisso de não transformar os seus robôs em armas, outras empresas podem não pensar da mesma forma. Há também o potencial de uso indevido de tais robôs por pessoas ou instituições que não possuem uma bússola moral. Como sugere a carta aberta: “Quando possível, analisaremos cuidadosamente as aplicações pretendidas pelos nossos clientes para evitar potencial armamento”.

Posição do Reino Unido

O Reino Unido já tomou uma posição sobre a transformação da IA ​​em armas com a sua Estratégia de Inteligência Artificial de Defesa, publicada em 2022. O documento expressa a intenção de integrar rapidamente a inteligência artificial nos sistemas do Ministério da Defesa para reforçar a segurança e modernizar as forças armadas.

Notavelmente, no entanto, um anexo ao documento de estratégia reconhece especificamente os potenciais desafios associados aos sistemas de armas letais autónomos.

Por exemplo, dados do mundo real são usados ​​para “treinar” sistemas de IA ou melhorá-los. Com o ChatGPT, isso é coletado da internet. Embora ajude os sistemas de IA a tornarem-se mais úteis, todas essas informações do “mundo real” também podem transmitir suposições erradas e preconceitos ao próprio sistema. Isto pode levar a preconceitos algorítmicos (onde a IA favorece um grupo ou opção em detrimento de outro) ou respostas inadequadas e desproporcionais por parte da IA. Como tal, os dados de treino de amostras para sistemas de armas precisam de ser cuidadosamente examinados tendo em mente a guerra ética.

Este ano, a Câmara dos Lordes estabeleceu um comitê selecionado de IA em Sistemas de Armas. A sua missão é ver como as forças armadas podem colher os benefícios dos avanços tecnológicos, minimizando ao mesmo tempo os riscos através da implementação de salvaguardas técnicas, legais e éticas. A suficiência da política do Reino Unido e da elaboração de políticas internacionais também está a ser examinada.

Os cães-robôs ainda não estão apontando armas para forças opostas. Mas todos os elementos estão aí para que este cenário se torne realidade, se não for controlado. O ritmo acelerado de desenvolvimento tanto da IA ​​como da robótica está a criar uma tempestade perfeita que poderá levar a novas armas poderosas.

A recente cimeira de segurança da IA ​​em Bletchley Park teve um resultado positivo para a regulamentação da IA, tanto no Reino Unido como internacionalmente. No entanto, havia sinais de uma divisão filosófica entre os objectivos da cimeira e os do comité de IA em Sistemas de Armas.

A cimeira teve como objectivo definir a IA, avaliar as suas capacidades e limitações e criar um consenso global no que diz respeito à sua utilização ética. Procurou fazê-lo através de uma declaração, muito semelhante à carta aberta da Boston Dynamics. Nenhum dos dois, porém, é vinculativo. O comitê busca integrar a tecnologia de forma clara e rápida, embora de acordo com a ética, os regulamentos e o direito internacional.

O uso frequente do termo “guarda-corpos” em relação à cimeira e à declaração de Bletchley sugere compromissos voluntários. E o primeiro-ministro do Reino Unido, Rishi Sunak, afirmou que os países não deveriam apressar-se a regulamentar.

A nobreza de tais declarações diminui tendo em conta o entusiasmo de alguns setores pela integração da tecnologia em plataformas de armas.

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.