Oficialmente, sim, fala de inteligência artificial e da doutrina social da Igreja. Mas, se você ler com atenção, a primeira encíclica do Papa Leão Magnífica Humanitas, é algo mais incómodo: uma acusação contra o modelo que sustenta a economia digital, e que coloca uma questão que permanece em aberto até ao fim: a que custo humano e ambiental funciona o mundo que construímos?
Inteligência artificial? Deve ser desarmado e resfriado
A inteligência artificial “deve ser desarmada”, é a grande mensagem do Papa Reitor. Mas também deve ser arrefecido, explica: “Os actuais sistemas de IA requerem grandes quantidades de energia e água, têm um impacto significativo nas emissões de dióxido de carbono e consomem recursos intensamente”, escreve. “Com o aumento da complexidade, especialmente em modelos de grandes linguagens, crescem também as necessidades de poder computacional e capacidade de armazenamento, que dependem de um conjunto de máquinas, cabos, data centers e infraestruturas de uso intensivo de energia.”
Não se trata de um apelo abstrato à sustentabilidade, mas sim da constatação de que o digital tem corpo físico, consome recursos reais e que esse consumo recai desproporcionalmente sobre quem tem menos voz. Por isso, afirma o Papa, é fundamental “desenvolver soluções tecnológicas mais sustentáveis para reduzir o impacto no ambiente e salvaguardar a nossa casa comum”. Uma referência direta à tradição ecológica aberta por Francisco com Laudato si’, que Leão XIV recolhe e traz para o debate sobre IA.
A exploração do neocapitalismo digital
Depois, há uma passagem na encíclica que parece real denúncia socialem que Leo E depois, a passagem mais difícil: “A este cansaço invisível acrescenta-se o ainda mais brutal deextração de recursos necessário para a produção dos dispositivos e microprocessadores nos quais a IA se baseia. Em algumas regiões do mundo, adolescentes e crianças trabalham em condições perigosas, triturando materiais de terras raras. Corpos marcados, mutilados, desgastados para que o fluxo do cálculo não seja interrompido.”
Mais ou menos neocolonialismo digital, que diz respeito a “territórios inteiros, especialmente aqueles com menor relevância geopolítica e maior fragilidade estrutural” que “são atravessados por uma nova lógica de extração: a dos fluxos de saúde, dos perfis epidemiológicos, dos mapas genéticos e dos dados demográficos”. Os dados, ou melhor ainda, os big data, são “as novas ‘terras raras’ do poder, muitas vezes recolhidas “sob o signo da ajuda, da investigação ou da inovação”. A conclusão não é apelativa: se não devolvermos às pessoas “não apenas os dados que as descrevem, mas também a possibilidade de decidir como serão utilizados, por quem e para quem”, então “a era digital não será pós-colonial, mas colonial sob outra forma”.
Poucos têm muito e muitos têm pouco
Nem mesmo diante das desigualdades, Leão XIV busca a diplomacia. “Poucos têm muito e muitos têm pouco, esta é a lógica de hoje”, escreve ele. A riqueza global cresceu, reconhece, mas “a concentração em poucas mãos aumentou e os desequilíbrios aumentaram, tanto entre países como dentro do mesmo país”. A inteligência artificial, neste quadro, não é uma solução automática, mas sim um acelerador: “Se as transformações não forem regidas pela definição da prevenção de novas e novas desigualdades como objectivo prioritário, já na fase de planeamento, o progresso tecnológico produz automaticamente desigualdades estruturais”.
Pensar que “as novas tecnologias trarão automaticamente benefícios para todos”, diz o Papa, “é ignorar as evidências”. E dá um exemplo concreto e doloroso: durante a pandemia, “os avanços científicos e tecnológicos, mesmo na área médica, não eram facilmente acessíveis à grande maioria da população”. Enquanto em algumas regiões foram feitos investimentos “em intervenções supérfluas ou em sonhos de empoderamento individual que poucas pessoas podem pagar, noutras partes do mundo ainda faltavam equipamentos essenciais para salvar milhões de vidas humanas”.
Os dados pertencem a todos
Uma das propostas mais concretas e disruptivas da encíclica diz respeito à propriedade dos dados. Leão XIV afirma que não pode ser confiada apenas a assuntos privados: i dados “são o resultado da contribuição de muitos e não podem ser vendidos ou confiados a poucos“. O que é necessário, escreve ele, é “criatividade capaz de geri-los como um dos bens comuns ou coletivos, na lógica da partilha”. É uma posição que se alinha com algumas das propostas mais avançadas no debate internacional sobre a governança digital. E que o Papa enraíza num princípio antigo: os bens da terra pertencem a toda a família humana, não àqueles que conseguem agarrá-los primeiro. Hoje esses bens também são chamados de algoritmos, plataformas, infraestruturas tecnológicas. “Quando esses bens permanecem concentrados nas mãos de poucos, sem recursos adequados. formas de partilha e acesso, um novo desequilíbrio que contradiz a destinação universal dos bens e alimenta o fosso entre incluídos e excluídos”.
Vigilância sem saber
Há uma forma de injustiça ainda pouco falada, mas que Leão XIV focaliza com precisão: é a da controle digital silencioso. “Quando cada gesto deixa rastros – movimentos, compras, relacionamentos, preferências – um novo poder é criado: o de traçar perfis, prever e direcionar comportamentos, muitas vezes sem que as pessoas tenham plena consciência disso”. Este poder, escreve o Papa, não atua apenas através de proibições explícitas, mas atua “a partir da arquitetura da visibilidade: o que é amplificado ou invisibilizado, o que é recompensado ou penalizado, acaba por moldar opiniões e escolhas, gerando conformismo e autocensura”. Uma descrição precisa de algo que muitos de nós vivenciamos todos os dias sem reconhecê-lo como uma forma de condicionamento.
Magnifica Humanitas, portanto, não fala de inteligência artificial, ou melhor, não só: fá-lo ligando os fios dos algoritmos aos dos crise climática, desigualdade e direitos humanos. Problemas a serem enfrentados não separadamente, com ministérios diferentes e fundos separados, mas rostos de uma mesma forma de ver o mundo: um olhar que mede o valor das coisas, e das pessoas, a partir da eficiência que produzem. Leão XIV não pede apenas o desarmamento da IA, mas também a cura dos desequilíbrios e desigualdades que o desenvolvimento da tecnologia pode trazer, quando, em vez disso, só poderia trazer benefícios.
