A IA sob uma perspectiva técnica e teológica na encíclica do Papa Leão XIV
Magnifica Humanitas (Dignidade humana): o Papa Leão XIV publicou esta encíclica sobre a inteligência artificial (IA) em comemoração à importantíssima encíclica de Leão XIII, Rerum Novarum (Das coisas novas), publicada há 135 anos, tendo em vista a Revolução Industrial daquele tempo e o perigo do marxismo-comunismo, ateu e materialista, que propunha uma solução perigosa para o problema social na época.
Créditos: inkoly / Getty Images
“Assim como o ‘Leão’ anterior, sinto-me chamado a contemplar outra grande transformação com olhos de fé, com a lucidez da razão, com abertura ao mistério e com os clamores dos pobres e da terra ressoando em meu coração”, expressou o Papa durante a apresentação de sua primeira carta encíclica, como uma resposta da Igreja aos desafios éticos e sociais trazidos pela inteligência artificial. O Papa comparou o momento atual a um “ponto de inflexão da época”, semelhante à Revolução Industrial enfrentada por seu predecessor Leão XIII no final do século XIX.
Até a Magnifica Humanitas, um Papa não tinha ainda analisado a IA com tanta profundidade e com esse nível de detalhamento técnico e teológico.
A construção teológica e técnica do documento
É preciso adiantar que essa encíclica é fruto de um imenso trabalho da Santa Sé, que ouviu muitos cientistas, especialistas do setor tecnológico e teólogos de renome sobre o tema para garantir precisão técnica ao abordar o assunto. Por exemplo, foram ouvidos: Christopher Olah, cofundador da renomada empresa de inteligência artificial Anthropic; especialistas da Universidade de Notre Dame e pesquisadores do “Lucy Family Institute for Data & Society”.
Participou também a cúpula teológica e social do Vaticano: o Prefeito do Dicastério para o Serviço do Desenvolvimento Humano Integral, Cardeal Michael Czerny, S.J., ; e o Prefeito do Dicastério para a Doutrina da Fé, Cardeal Víctor Manuel Fernández. Ambos os dicastérios já vinham estudando o assunto com o documento preparatório anterior intitulado Antiqua et Nova. Houve ainda a participação da Academia e Teologia Política, da Comissão Teológica Internacional e a menção a autores como Viktor Frankl e J.R.R. Tolkien, usados pelo Papa para ilustrar a resistência do espírito humano diante da mecanização.
Diante de tudo isso, o Papa faz eco aos cientistas e considera que a IA é a mais importante revolução científica atual, e que ela “não é moralmente neutra” (n. 104), isto é, pode ser usada para o bem ou para o mal, e seu emprego deve passar pelo tribunal da moral e da ética.
O parágrafo 104 afirma que “toda ferramenta técnica incorpora escolhas e prioridades por meio do que mede, ignora e otimiza, e de como classifica pessoas e situações”. Quando um sistema é projetado de forma a tratar algumas vidas como menos valiosas, escreve Leão XIV, ele “já introduziu critérios que contradizem a dignidade inalienável da pessoa humana”.
Os riscos da automação e o algoritmo sem alma
O Papa compara as ferramentas virtuais com a energia nuclear, que exige rígido controle para servir à paz e não ao domínio. Ele mostra o perigo de seu mau uso favorecer a manipulação social e a vigilância em massa da sociedade. Destaca o perigo das fake news, que geram uma polarização política perigosa, um controle emocional das pessoas e o enfraquecimento do discernimento humano nas redes sociais — um sistema de algoritmos concentrado na mão de poucos países, poucas grandes empresas e alguns governos. Destaca também o difícil controle da IA, que pode gerar uma “lei da selva” pelo domínio sobre o outro, e condena o uso militar da tecnologia, que já está sendo muito empregado hoje.
O documento diz que a inteligência artificial não pode sentir, amar ou assumir responsabilidade moral, mas pode excluir, manipular e “concentrar poder”. O Papa alerta que a IA não é inteligência humana, e a diferença é crucial. Os sistemas de IA “não vivenciam experiências, não possuem um corpo, não sentem alegria ou dor, não amadurecem por meio de relacionamentos e não sabem, intrinsecamente, o que significam amor, trabalho, amizade ou responsabilidade” (n. 99). Podem imitar a linguagem e simular empatia, mas “não compreendem o que produzem”. Isso é a base de tudo.
Outro perigo que o documento destaca é que “delegar decisões a algoritmos significa perder a responsabilidade”, porque, quando sistemas automatizados tomam decisões importantes, “a exclusão dos vulneráveis fica disfarçada por uma aparência de neutralidade e objetividade, contra a qual se torna difícil levantar objeções” (n. 103). Então, destaca o Papa, “compaixão, misericórdia e perdão desaparecem gradualmente de vista”. Alguém sempre precisa ser responsabilizado. Um algoritmo não pode fazer isso.
Leia também, outros artigos de Felipe Aquino
Dados como bem comum e a ética do desenvolvimento
Outro ponto destacado é que “os dados são um bem comum”. O parágrafo 108 insiste que os dados “são produto de muitos colaboradores e não devem ser tratados como algo a ser vendido ou confiado a poucos escolhidos”. Todo avanço tecnológico da IA deve se enquadrar no princípio da “destinação universal dos bens” a serviço do bem comum.
O Papa ressalta que todos os que trabalham nos sistemas de IA devem ser lembrados. Ele recorda que existe “uma longa cadeia de mediação” que envolve milhões de pessoas em atividades essenciais, mas invisíveis; muitos trabalham por salários mínimos, por exemplo, na extração de minerais e terras raras em condições às vezes perigosas e com risco para a saúde. Os benefícios da IA não podem ignorar essa realidade.
O parágrafo 110 pede que a IA seja “desarmada”; isto é, libertada da “mentalidade de competição armada”, do domínio político e comercial mundial; e “desarmar não significa rejeitar a tecnologia, mas impedir que ela domine a humanidade”. De modo especial, o parágrafo 111 se dirige aos desenvolvedores de IA: “Cada escolha de design reflete uma visão da humanidade”, e deve ser tanto ética quanto espiritual.
Enfim, o Papa invoca a justiça para combater a visão anti-humana na IA. Convoca governos, desenvolvedores e a sociedade a utilizarem a justiça social para impedir a visão de um mundo descartável. É um alerta contra o “paradigma tecnocrático”, uma ameaça invisível. O bem comum deve ser a bússola regulatória da IA. O texto incentiva a “cultura do encontro”, de modo que robôs e modelos de linguagem nunca substituam o mistério e a novidade do contato humano direto.
Relacionados
São José nos tempos difíceis para a Igreja
São Filipe Néri, o santo da alegria e da oração, penitente e adorador
Somatização: quando as emoções não processadas se transformam em doenças físicas
A sabedoria do tempo: desmistificando o envelhecimento
Santa Rita de Cássia: vida, milagres e sua devoção inabalável
