A inteligência artificial poderia nos ajudar a construir um mundo tecnológico mais ético?

Um robô não pode ferir um ser humano ou, por omissão, permitir que um ser humano sofra algum mal. Um robô deve obedecer às ordens dadas por seres humanos, exceto quando tais ordens entrarem em conflito com a Primeira Lei. Um robô deve proteger sua própria existência desde que tal proteção não entre em conflito com a Primeira ou Segunda Lei.

As Três Leis da Robótica foram estabelecidas por Isaac Asimov oitenta anos atrás, muito antes de a inteligência artificial se tornar uma realidade. Mas ilustram perfeitamente como os humanos têm lidado com os desafios éticos da tecnologia: protegendo os usuários.

No entanto, os desafios éticos que a humanidade enfrenta, sejam eles relacionados à tecnologia ou não, não são realmente um problema tecnológico, mas sim social. Dessa forma, a tecnologia em geral e a inteligência artificial em particular podem ser usadas para capacitar os usuários e nos ajudar a avançar em direção a um mundo que seja mais eticamente desejável. Em outras palavras, podemos repensar a forma como projetamos tecnologia e inteligência artificial e aproveitá-las para construir uma sociedade mais ética.

Esta é a abordagem de Joan Casas-Roma, pesquisador do grupo SmartLearn da Faculdade de Informática, Multimídia e Telecomunicações da Universitat Oberta de Catalunya (UOC), em seu livro de acesso aberto “Idealismo Ético, Tecnologia e Prática: um Manifesto”, publicado em Filosofia & Tecnologia. Para entender como implementar essa mudança de paradigma, precisamos voltar um pouco no tempo.

A inteligência artificial é objetiva, certo?

Quando Asimov estabeleceu pela primeira vez suas leis de robótica, o mundo era um lugar de baixa tecnologia em comparação com os dias atuais. Era 1942 e Alan Turing havia acabado de formalizar os conceitos algorítmicos que seriam a chave para o desenvolvimento da computação moderna décadas depois. Não havia computadores, nem internet, muito menos inteligência artificial ou robôs autônomos. Mas Asimov já antecipava o medo de que os humanos conseguissem tornar as máquinas tão inteligentes que acabassem se rebelando contra seus criadores.

Mais tarde, porém, nos primórdios da computação e das tecnologias de dados na década de 1960, essas questões não estavam entre as principais preocupações da ciência. “Havia a crença de que, por serem os dados objetivos e científicos, as informações resultantes seriam verdadeiras e de alta qualidade. Ela era derivada de um algoritmo da mesma forma que algo é derivado de um cálculo matemático. A inteligência artificial foi objetivo e, portanto, nos ajudou a eliminar o viés humano”, explicou Joan Casas-Roma.

Mas este não foi o caso. Percebemos que os dados e os algoritmos replicavam o modelo ou visão de mundo da pessoa que estava usando os dados ou que projetou o sistema. Em outras palavras, a tecnologia em si não estava eliminando preconceitos humanos, mas sim transferindo-os para um novo meio. “Com o tempo, aprendemos que a inteligência artificial não é necessariamente objetiva e, portanto, suas decisões podem ser altamente tendenciosas. As decisões perpetuaram as desigualdades, em vez de corrigi-las”, disse ele.

Assim, chegamos ao mesmo ponto previsto pelas Leis da Robótica. Questões sobre ética e inteligência artificial foram trazidas à mesa de um ponto de vista reativo e protetor. Quando percebemos que a inteligência artificial não era justa nem objetiva, decidimos começar a agir para conter seus efeitos nocivos. “A questão ética da inteligência artificial surgiu da necessidade de construir um escudo para que os efeitos indesejáveis ​​da tecnologia sobre os usuários não continuassem a se perpetuar. Era preciso fazer isso”, disse Casas-Roma.

Como explica no manifesto, o facto de ter de reagir desta forma fez com que nas últimas décadas não explorássemos outra questão fundamental na relação entre tecnologia e ética: que consequências eticamente desejáveis ​​pode ter um conjunto de inteligências artificiais com o acesso a uma quantidade sem precedentes de dados nos ajuda a alcançar? Em outras palavras, como a tecnologia pode nos ajudar a caminhar em direção à construção de um futuro eticamente desejável?

Em direção a uma relação idealista entre ética e tecnologia

Um dos principais objetivos de médio prazo da União Europeia é avançar para uma sociedade mais inclusiva, mais integrada e mais cooperativa, na qual os cidadãos tenham uma maior compreensão dos desafios globais. Para alcançá-lo, a tecnologia e a inteligência artificial podem ser um grande obstáculo, mas também podem ser um grande aliado. “Dependendo de como a interação das pessoas é projetada com inteligência artificial, uma sociedade mais cooperativa pode ser promovida”, disse Casas-Roma.

Houve um boom inegável na educação online nos últimos anos. As ferramentas de aprendizagem digital têm muitos benefícios, mas também podem contribuir para uma sensação de isolamento. “A tecnologia poderia estimular um maior senso de cooperação e criar um maior senso de comunidade. Por exemplo, ao invés de ter um sistema que só corrige exercícios automaticamente, o sistema também poderia enviar uma mensagem para outro colega que resolveu o problema para facilitar para os alunos se ajudarem. É apenas uma ideia entender como a tecnologia pode ser projetada para nos ajudar a interagir de uma forma que promova a comunidade e a cooperação”, disse ele.

Segundo Casas-Roma, uma perspectiva ética idealista pode repensar como a tecnologia e a forma como os usuários a utilizam podem criar novas oportunidades para alcançar benefícios éticos para os próprios usuários e para a sociedade como um todo. Essa abordagem idealista da ética da tecnologia deve ter as seguintes características:

• expansivo. A tecnologia e seus usos devem ser projetados de forma a permitir que seus usuários floresçam e se tornem mais capacitados.
• Idealista. O objetivo final que deve sempre ser mantido em mente é como a tecnologia pode melhorar as coisas.
• Possibilitando. As possibilidades criadas pela tecnologia devem ser cuidadosamente compreendidas e moldadas para garantir que melhorem e apoiem o crescimento ético dos usuários e das sociedades.
• Mutável. O estado atual das coisas não deve ser dado como certo. O cenário social, político e econômico atual, bem como a tecnologia e a forma como ela é usada, podem ser reformulados para permitir o progresso em direção a um estado de coisas ideal diferente.
• Baseado em princípios. A forma como a tecnologia é utilizada deve ser vista como uma oportunidade para possibilitar e promover comportamentos, interações e práticas alinhadas com determinados princípios éticos desejados.

“Não é tanto uma questão de dados ou algoritmos. É uma questão de repensar como interagimos e como gostaríamos de interagir, o que estamos possibilitando através de uma tecnologia que se impõe como meio”, concluiu Joan Casas-Roma.

“Esta ideia não é tanto uma proposta sobre o poder da tecnologia, mas sim a forma de pensar por trás de quem a projeta. É um apelo a uma mudança de paradigma, uma mudança de mentalidade. Os efeitos éticos da tecnologia não são um problema, mas sim um problema social. Eles colocam o problema de como interagimos uns com os outros e com nosso entorno por meio da tecnologia.”

Fornecido por Universitat Oberta de Catalunya