Magnifica Humanitas: Leão XIV lê a IA como poder

Linha editorial: ANÁLISE · Tecnologia e Poder · Vaticano · Inteligência artificial

A encíclica que desloca a IA para o poder

O índice de Magnifica Humanitas não se limita a anunciar uma reflexão sobre inteligência artificial. Antes de qualquer desenvolvimento, já aparecem as palavras que definem o terreno do documento: técnica, domínio, verdade, trabalho, liberdade, poder, guerra, paz, escola, dependência, mercantilização. A encíclica apresenta-se como texto religioso, mas a sua estrutura revela uma ambição política. Não política partidária. Política no sentido mais antigo: quem governa, quem decide, quem responde, quem fica exposto quando uma nova forma de poder começa a organizar a vida comum.

A inteligência artificial deixou de ser apenas técnica: tornou-se infraestrutura de decisão, soberania e controlo.

Leão XIV retira a inteligência artificial do território estreito da inovação e coloca-a no da autoridade. A IA deixa de ser apenas ferramenta, promessa industrial, corrida económica ou maravilha técnica. Passa a ser problema de soberania humana.

Grande parte do debate público continua presa à produtividade, à regulação setorial, à concorrência entre empresas, aos riscos de desinformação ou à substituição de trabalhadores. Tudo isso conta. Mas a encíclica empurra a pergunta para um ponto anterior à política pública e à engenharia: que ideia de pessoa humana está a ser inscrita nos sistemas que começam a decidir, selecionar, recomendar, vigiar, educar, ordenar, excluir e substituir?

O problema da inteligência artificial não está apenas naquilo que a máquina faz. Está no tipo de poder que se organiza à sua volta.

O documento nasce no interior da Doutrina Social da Igreja e assume deliberadamente a memória de Rerum Novarum. Em 1891, Leão XIII respondeu à questão operária colocada pela industrialização. A máquina, a fábrica, o salário, a propriedade, o capital e o trabalho tinham criado uma nova arquitetura de dependência. A Igreja não podia falar da alma esquecendo os corpos cansados, os salários insuficientes e a desigualdade social produzida pela modernidade industrial. Leão XIV recupera essa lógica, mas desloca-a para outra infraestrutura: a digitalização, a robótica e a inteligência artificial.

Em ambos os casos, uma transformação técnica altera a distribuição do poder. A Revolução Industrial concentrou meios de produção, reorganizou o trabalho e expôs milhões de pessoas à precariedade de uma economia que dizia apenas obedecer ao progresso. A inteligência artificial concentra dados, capacidade computacional, infraestrutura, modelos, plataformas, conhecimento técnico e poder de mediação. O operário do século XIX via a máquina diante de si. O cidadão do século XXI nem sempre vê a máquina que o classifica.

Essa invisibilidade muda quase tudo. O poder industrial tinha fábricas, portões, turnos, patrões e bairros operários. O poder algorítmico distribui-se por interfaces limpas, decisões remotas, contratos de serviço, sistemas internos, plataformas, aplicações e ferramentas integradas em administrações públicas, empresas, escolas, hospitais, mercados e forças armadas. A pessoa afetada pode nem saber que foi avaliada por um sistema, ordenada por um modelo, preterida por uma métrica, empurrada por uma recomendação ou reduzida a perfil.

A encíclica identifica um ponto decisivo: as tecnologias emergentes já não se limitam a apoiar decisões; passam a moldar processos de decisão e a incidir no imaginário coletivo. A IA não opera apenas depois de a sociedade escolher. Participa cada vez mais na formação daquilo que a sociedade considera escolhível, desejável, eficiente, provável ou inevitável.

O poder contemporâneo nem sempre precisa de proibir. Muitas vezes basta-lhe ordenar a visibilidade.

Leão XIV observa que, noutros tempos, os Estados desempenhavam um papel mais direto na orientação da inovação. Hoje, muitos dos motores decisivos do desenvolvimento tecnológico são entidades privadas, frequentemente transnacionais, com recursos e capacidade de intervenção superiores aos de numerosos governos. A IA não é apenas um campo técnico em expansão; é uma reorganização da relação entre Estados, empresas, cidadãos e instituições democráticas.

O risco não é que uma empresa tecnológica substitua formalmente um governo. O risco é que governos, escolas, hospitais, tribunais, administrações, empresas e cidadãos passem a depender de infraestruturas privadas que condicionam, por dentro, a margem real de decisão pública. Um parlamento pode legislar tarde. Um ministério pode contratar sem compreender inteiramente. Uma escola pode regulamentar depois de o hábito se ter instalado. Um tribunal pode julgar efeitos sem dominar a arquitetura que os produziu.

Quando a soberania chega depois da dependência, já chega diminuída.

A encíclica não rejeita a tecnologia. Leão XIV reconhece que a técnica está enraizada na história humana, ligada à autonomia e à liberdade, capaz de curar, conectar, educar, cuidar e melhorar condições de vida. O problema não está no instrumento em si. Está na sua orientação, no seu regime de propriedade, no seu enquadramento moral, no seu uso social e na visão antropológica que o sustenta.

Esta distinção protege o documento de duas tentações simétricas: a tecnofobia e a idolatria. A primeira vê na máquina uma ameaça pura. A segunda vê nela uma solução quase natural. Magnifica Humanitas recusa ambas. A tecnologia pode servir a pessoa; pode também descartá-la. Pode ampliar capacidades; pode acelerar desigualdades. Pode melhorar decisões; pode esconder responsabilidades. Pode aproximar; pode normalizar a distância.

O eixo da encíclica é a responsabilidade. Não uma responsabilidade vaga, atribuída à “sociedade” como entidade sem rosto, mas uma responsabilidade distribuída por quem concebe, financia, regula e utiliza os sistemas. Leão XIV insiste que a tecnologia não é neutra na prática porque carrega as escolhas daqueles que a tornam possível. Um algoritmo não nasce no vazio. Tem dados, objetivos, parâmetros, proprietários, usos esperados e mercados. Chamar-lhe técnico não o torna inocente.

A neutralidade tecnológica é uma das ficções mais úteis do nosso tempo. Transforma escolhas políticas em inevitabilidades operacionais. Apresenta critérios discutíveis como se fossem simples cálculos. Esconde conflitos de valor dentro de sistemas que aparecem ao cidadão como caixas fechadas. No limite, cria uma forma moderna de irresponsabilidade: quando todos dependem do sistema, ninguém parece ter decidido.

A IA pressiona lugares onde a modernidade democrática já estava fragilizada. A verdade, por exemplo. O documento trata-a como bem comum, não como preferência individual. Uma democracia não vive apenas da liberdade de expressão; vive da possibilidade de uma realidade minimamente partilhada. Precisa de confiança suficiente na origem das imagens, na autoria das palavras, na verificabilidade dos factos, na estabilidade das provas e na distinção entre o que foi observado, inventado, manipulado ou fabricado.

A inteligência artificial não criou a crise da verdade. Acelera-a, multiplica-a e torna-a mais difícil de reconhecer. A falsidade já não precisa de ser grosseira. Pode ser verosímil, adaptada, personalizada, repetida em escala, disseminada em ambientes onde a atenção já está fatigada. O objetivo nem sempre é convencer; muitas vezes basta dissolver a confiança. Uma sociedade cansada de distinguir entre real e simulado torna-se mais vulnerável a formas de governo pela exaustão.

O poder que controla os canais de visibilidade não precisa de controlar cada opinião. Basta-lhe controlar a arquitetura da atenção. O que aparece primeiro, o que desaparece, o que é amplificado, o que se torna suspeito, o que se torna hábito. A política democrática, baseada em deliberação, tempo, confronto racional e responsabilização pública, fica enfraquecida quando o espaço comum é administrado por sistemas orientados para retenção, previsão, segmentação e vantagem competitiva.

A escola surge, na encíclica, como uma das frentes decisivas. Não por sentimentalismo educativo, mas porque a escola é o lugar onde uma sociedade prepara a sua capacidade futura de discernimento. A questão não é apenas ensinar crianças e jovens a usar ferramentas digitais. É formar pessoas capazes de resistir à passividade diante dessas ferramentas. O documento fala de uso responsável, crítico e criativo. A implicação é mais ampla: uma comunidade que entrega a educação ao automatismo prepara cidadãos menos capazes de reconhecer o poder quando este se apresenta como conveniência.

A escola é uma zona de soberania lenta. Ensina a procurar, a errar, a rever, a demorar, a distinguir, a argumentar. Uma ferramenta de IA pode ajudar esse processo. Pode também substituí-lo por produtos limpos, respostas fluentes e simulações de competência. A diferença entre apoio e substituição será uma das batalhas culturais dos próximos anos. Não se jogará apenas nos programas escolares, mas na figura do professor, nos métodos de avaliação, na autoridade da leitura, na paciência da escrita e no lugar do erro como parte da aprendizagem.

O trabalho é outra frente. A encíclica retoma a tradição da Doutrina Social da Igreja para afirmar que o trabalho não pode ser reduzido a produtividade. Esta posição ganha nova relevância quando a IA entra nas empresas como sistema de medição, automação, triagem, previsão e substituição. O trabalhador pode deixar de ser visto como sujeito de dignidade e passar a ser tratado como variável de desempenho.

A automação não é nova. O que se altera é a amplitude das tarefas afetadas e a capacidade de gestão fina do comportamento laboral. A IA pode entrar no escritório, no centro de atendimento, na logística, na medicina, no jornalismo, na advocacia, no ensino, na administração pública. Pode reorganizar profissões inteiras sem que a sociedade tenha tempo para compreender o custo humano. A promessa de eficiência tende a chegar antes da pergunta sobre redistribuição, proteção social, formação, salário, sentido do trabalho e participação.

Se a IA for guiada sobretudo pela lógica da redução de custos e da concentração de valor, não produzirá apenas inovação. Produzirá hierarquia. A diferença entre quem controla os sistemas e quem é controlado por eles pode tornar-se uma nova linha estrutural de desigualdade. Não se trata apenas de desemprego, embora esse risco exista. Trata-se de dependência, vigilância, desqualificação, perda de autonomia e transferência de valor para centros privados de decisão.

A liberdade também muda de forma. A encíclica liga-a à dependência e à mercantilização. A IA e os sistemas digitais não precisam de eliminar formalmente a escolha para condicionarem a vontade. Podem sugerir, ordenar, prever, antecipar, personalizar, recompensar, interromper, estimular. A pessoa mantém a sensação de escolha enquanto o ambiente que organiza as suas escolhas é desenhado por outros.

Esta é talvez a forma mais eficaz de poder contemporâneo: não mandar, mas conduzir. Não proibir, mas facilitar. Não censurar frontalmente, mas tornar certas opções mais visíveis, mais rápidas, mais confortáveis. A dependência nasce muitas vezes do conforto. Uma ferramenta que poupa tempo pode passar a organizar a vida. Um sistema que recomenda pode passar a formar gosto. Uma plataforma que responde pode passar a definir o ritmo da pergunta.

Magnifica Humanitas insere este problema numa crítica mais ampla ao paradigma tecnocrático. A expressão não designa apenas a presença de tecnologia na vida pública. Designa uma forma de pensar em que eficiência, controlo e lucro tendem a tornar-se critérios dominantes. Quando isto acontece, as perguntas difíceis são empurradas para fora do debate: quem sofre o custo, quem perde autonomia, quem é tratado como descartável, quem deixa de ser ouvido, que fragilidades deixam de caber no modelo.

O documento dedica atenção às narrativas transumanistas e pós-humanistas porque estas modificam o imaginário. Quando o limite humano passa a ser visto sobretudo como defeito a corrigir, a fragilidade deixa de ser parte da condição humana e passa a ser falha de desempenho. A doença, a velhice, a dependência, a vulnerabilidade e a lentidão podem começar a aparecer como obstáculos à otimização.

O problema político desta visão é evidente. Sociedades obcecadas com desempenho tendem a tratar os frágeis como custo. A IA não inventa esse desprezo, mas pode dar-lhe ferramentas mais eficientes. Pode ajudar a hierarquizar vidas segundo risco, utilidade, produtividade, previsibilidade ou valor económico. Pode tornar administrável uma crueldade que antes precisava de se assumir como tal.

A guerra é o extremo desta lógica. A encíclica inclui a normalização da guerra, a força sem limites, as armas e a IA, a crise do multilateralismo e a necessidade da diplomacia. A tecnologia deixa de ser apenas infraestrutura civil e passa a integrar a decisão sobre a morte. A distância técnica pode tornar a violência mais aceitável para quem a exerce. A automação pode acelerar escolhas onde deveria haver responsabilidade máxima. A precisão não resolve a justiça da decisão. Um alvo melhor calculado continua a depender de uma ordem moral e política.

No plano internacional, esta discussão toca a crise do multilateralismo. Se a IA é infraestrutura estratégica, nenhum Estado relevante aceitará ficar inteiramente dependente de outros. A corrida tecnológica torna-se corrida de poder. Empresas e Estados entram em zonas de cooperação e conflito onde economia, segurança, defesa, dados, diplomacia e propaganda se misturam. O Vaticano lê esta pressão a partir da paz, mas a sua análise toca o coração da política global: quem controlar as infraestruturas cognitivas, produtivas e militares da IA terá capacidade acrescida para definir regras antes que elas sejam discutidas.

A proposta de “desarmar” a IA deve ser lida neste quadro. Não significa destruir tecnologia nem bloquear investigação. Significa retirar-lhe a pretensão de autonomia política. Significa abrir o seu desenvolvimento ao escrutínio, à regulação, à responsabilidade democrática, à pluralidade cultural e à orientação para o bem comum. Desarmar, neste sentido, é impedir que uma ferramenta se converta em regime.

Uma tecnologia armada não é apenas uma tecnologia usada em contexto militar. É uma tecnologia protegida por opacidade, monopólio, dependência, linguagem inevitabilista e falta de responsabilização. Desarmá-la é obrigá-la a responder perante a comunidade humana.

A encíclica oferece uma alternativa que pode parecer deslocada no vocabulário geopolítico: a “civilização do amor”. A expressão é facilmente caricaturável. Mas, no interior do documento, funciona como oposição à cultura do poder. Não é uma fórmula sentimental. É um critério de ordenação. Onde a cultura do poder pergunta quem pode impor, capturar, acelerar, dominar ou vencer, a civilização do amor pergunta quem é protegido, quem é escutado, quem é incluído, quem paga o preço e que vítimas ficam fora da narrativa dos vencedores.

Aqui a encíclica torna-se politicamente incómoda. Não se limita a pedir ética para a IA, como se bastasse acrescentar princípios a sistemas já decididos. Reabre a pergunta sobre a finalidade do desenvolvimento. A IA deve servir o quê? Crescimento? Lucro? Segurança? Competitividade? Eficiência? Conforto? Poder nacional? Bem comum? Dignidade? Paz?

Nenhuma sociedade responderá a estas perguntas apenas com códigos de conduta empresariais. Também não bastarão regulamentos isolados, embora sejam necessários. A inteligência artificial está a obrigar instituições, Estados e comunidades a decidir se ainda conseguem subordinar a técnica a uma visão humana ou se aceitarão adaptar a pessoa ao desenho dos sistemas.

Neste sentido, Magnifica Humanitas é menos um documento sobre máquinas do que sobre governação da humanidade num tempo em que a máquina se tornou mediadora. O seu alvo não é um dispositivo específico, nem uma empresa concreta, nem um setor isolado. É uma arquitetura de poder: privada, transnacional, tecnicamente opaca, culturalmente sedutora, economicamente concentrada e politicamente difícil de travar.

O Vaticano entra neste debate com uma vantagem e uma limitação. A vantagem é a memória. A Igreja conhece a longa duração das promessas humanas de salvação histórica. Já viu impérios, ideologias, mercados e técnicas prometerem reorganizar o mundo. A limitação é a distância operacional: uma encíclica não implementa regulação, não audita modelos, não redistribui capital, não cria políticas industriais, não protege trabalhadores por decreto.

A sua função pode ser outra. Colocar uma linguagem moral num campo dominado por linguagem de mercado e de engenharia. Reintroduzir a pessoa onde o discurso fala de utilizadores. Reintroduzir o bem comum onde se fala de escala. Reintroduzir responsabilidade onde se fala de inovação. Reintroduzir limites onde se fala de futuro.

A eficácia política do documento dependerá do que for feito fora dele. Governos, universidades, escolas, empresas, sindicatos, comunidades religiosas, jornalistas e cidadãos terão de traduzir estas perguntas em práticas concretas. A encíclica não substitui esse trabalho. Obriga-o a começar num lugar mais exigente.

Leão XIV não pergunta se a inteligência artificial é boa ou má. Essa pergunta é demasiado estreita para a escala do fenómeno. Pergunta quem governará a transição, com que critérios, em nome de quem e com que proteção para os que têm menos capacidade de resistir. Pergunta se a humanidade continuará a definir a técnica ou se passará a adaptar-se, em silêncio, ao que a técnica tornar mais eficiente.

O documento chama a isto permanecer humanos. Permanecer humano, nesta análise, significa não aceitar que a pessoa seja reduzida a dado, desempenho, risco, perfil, custo, consumidor, alvo, utilizador ou obstáculo. Significa preservar a capacidade de julgar, responder, sofrer com os outros, aprender, trabalhar com dignidade, educar para a verdade, limitar a força e construir paz.

A IA tornou-se o teste contemporâneo dessa capacidade. Não porque seja a única crise do nosso tempo, mas porque atravessa muitas delas: economia, guerra, escola, informação, poder privado, liberdade, desigualdade, democracia. A sua força está em ligar sistemas que antes pareciam separados. A sua ameaça está em fazê-lo mais depressa do que as instituições conseguem compreender.

Por isso, a encíclica não deve ser lida apenas como documento religioso dirigido aos fiéis. Deve ser lida como intervenção num campo de poder em formação. O seu valor analítico está em recusar a pergunta estreita — como usar melhor a IA? — e substituí-la por uma pergunta mais difícil: que tipo de ordem humana está a nascer quando a técnica começa a governar a forma como vemos, trabalhamos, aprendemos, combatemos, decidimos e esperamos?

A resposta ainda não está escrita. E é precisamente por isso que o documento importa.

Imagem: Kaká Souza / Pexels