A inteligência artificial não é neutra e não deve ser guiada apenas pela lógica do lucro e da eficiência. Para evitar o controle algorítmico sobre o destino humano, a tecnologia precisa ser submetida a limites éticos rigorosos e à responsabilidade partilhada.
Essa foi a mensagem do Papa Leão 14 ao divulgar, nesta segunda-feira (25/5), a carta encíclica Magnifica Humanitas. O documento defende a salvaguarda da pessoa humana na era da inteligência artificial e convoca a comunidade internacional a orientar o progresso tecnológico para o bem comum.
Papa Leão 14 em cerimônia no Vaticano, em março deste ano
O texto ressalta que as inovações digitais aceleraram a afirmação de um paradigma tecnocrático no mundo.
Por isso, segundo o documento, é preciso desmistificar a ideia de que os algoritmos são ferramentas isentas, já que eles sempre refletem as prioridades, a visão de mundo e os interesses daqueles que os financiam e programam.
“Não podemos considerar a IA moralmente neutra. Na realidade, todo o artefato técnico traz consigo escolhas e prioridades: o que mede, o que ignora, o que otimiza e a forma como classifica pessoas e situações”, sustenta o documento.
Opacidade e controle social
A encíclica dedica grande atenção à concentração de poder tecnológico nas mãos de corporações transnacionais privadas. O documento destaca o perigo da opacidade na tomada de decisões que afetam oportunidades de trabalho, concessão de crédito, acesso a serviços e direitos fundamentais.
Na visão do Papa, delegar a uma máquina o julgamento sobre a vida das pessoas cria uma injustiça silenciosa, blindada por uma falsa aparência de objetividade que dificulta o direito de defesa das vítimas.
“Confiar, na prática, a um algoritmo o poder de selecionar quem merece ou não, sem que ninguém mais assuma o peso da decisão, significa confiar-lhe a tarefa de redefinir os limites das possibilidades humanas.”
Para conter esses riscos, segundo o documento, é preciso implementar medidas de transparência e accountability, ou seja, fortalecer a capacidade de identificar os responsáveis e garantir a prestação de contas e a auditoria de todas as ferramentas tecnológicas inseridas no convívio humano.
O Papa reitera que o ser humano não é uma matéria a ser aperfeiçoada de forma puramente técnica e rejeita as ideologias do pós-humanismo e do transumanismo, que frequentemente tratam as pessoas vulneráveis como recursos a serem descartados ou otimizados pela máquina.
Uso na guerra
Um dos alertas mais duros da Magnifica Humanitas refere-se à aplicação da inteligência artificial no setor bélico. O Papa critica a ilusão de criar “agentes morais artificiais”, uma vez que o juízo sobre o bem e o mal requer consciência e responsabilidade, características inexistentes nas máquinas.
A carta repudia de forma veemente a delegação de decisões letais a sistemas automatizados. O texto aponta que a automação diminui a responsabilidade, acelera o uso da violência e transforma os alvos humanos em meros dados de previsões operacionais.
“Não é lícito confiar a sistemas artificiais decisões letais ou, de qualquer forma, irreversíveis. Não existe algoritmo que possa tornar a guerra moralmente aceitável. A IA não retira ao conflito a sua intrínseca desumanidade: apenas o torna mais rápido e impessoal”, adverte.
Para garantir a dignidade humana, a encíclica faz um apelo para que a inteligência artificial seja “desarmada”. Isso exige afastar o controle destas ferramentas da corrida militar e do monopólio econômico. O documento defende a urgência de estabelecer normas jurídicas internacionais que proíbam as armas letais autônomas e protejam os civis das lógicas cegas do cálculo computacional.
“Desarmar significa quebrar esta equivalência entre poder técnico e direito de governar. Não significa renunciar à tecnologia, mas impedir que ela domine o ser humano”, observa o líder religioso.
