Educar para o discernimento acerca da IA. Por uma compreensão integral da inteligência humana

O que se entende por IA? 

• É uma “inteligência” para executar tarefas, não para pensar. Essa execução está pautada por procedimentos de cálculo, limitados à lógica computacional (n. 12) [1]. 

• A IA não deve ser vista como uma forma artificial da inteligência, mas como um dos seus produtos (n. 35). 

• Um dos objetivos da IA é imitar a inteligência humana que a projetou (n. 3). 

• É avaliada com base em sua capacidade de produzir respostas apropriadas – isto é, respostas associadas ao intelecto humano – independentemente de como tais respostas são geradas (n. 11). 

Quais os limites da IA? 

•  Possui uma visão funcionalista, não abrange a pessoa em sua integralidade (n. 10). 
• Embora a IA consiga imitar algumas operações associadas à racionalidade, ela opera executando tarefas, alcançando objetivos ou tomando decisões com base em dados quantitativos e lógica computacional (n. 30). 
• Não pode, atualmente, replicar o discernimento moral ou a capacidade relacional (n. 32). 
• Carece da capacidade de experiências vividas corporalmente (n. 31), da relacionalidade, da abertura e dos afetos (n. 33). 

O papel da ética no desenvolvimento e uso da IA 

A Nota adverte: 

• Estabelecer uma equivalência excessiva entre a inteligência humana e a IA traz o risco de adotar uma visão funcionalista, em que as pessoas são avaliadas com base nas tarefas que podem desempenhar (n. 34). 
• O valor de uma pessoa não depende da posse de habilidade específicas, de resultados cognitivos e tecnológicos ou de seu sucesso individual, mas sim de sua dignidade humana intrínseca. Ela está na base da tradição dos direitos humanos – e, especificamente, dos chamados “neurodireitos”. Essa dignidade serve como guia ético fundamental nas discussões sobre o desenvolvimento e o uso responsável da IA (n. 34). 
• Os produtos tecnológicos refletem a visão de mundo de seus desenvolvedores, proprietários, usuários e reguladores, e, com seu poder, exercem influência na sociedade (n. 41). 
• Os fins e os meios utilizados em uma aplicação da IA, bem como a visão geral que ela incorpora, devem ser avaliados para garantir que respeitem a dignidade humana e promovam o bem comum (n. 42).
• É crucial que quem toma decisões a partir da IA seja responsabilizado moralmente por ela e que seja possível prestar contas do uso da IA em todas as etapas do processo decisório. A causalidade moral pertence aos agentes pessoais, e não aos agentes artificiais (n. 44). 
• É fundamental definir os objetivos atribuídos aos sistemas de IA. Embora esses sistemas possam utilizar mecanismos de aprendizado autônomo não supervisionado, eles perseguem, em última análise, os objetivos atribuídos por humanos (n. 45).
• Embora o uso ético dos sistemas de IA envolva principalmente aqueles que os desenvolvem, produzem, gerenciam e supervisiona, essa responsabilidade também é compartilhada pelos usuários (n. 46). 
• Cuidado para não se tornarem excessivamente dependentes da IA em suas decisões, exacerbando o já elevado grau de subordinação à tecnologia que caracteriza a sociedade contemporânea (n. 46). 
• O uso da IA deve ser exercido com prudência pelos indivíduos e pelas comunidades, evitando aplicações que possam diminuir a dignidade humana ou prejudicar o planeta. A responsabilidade moral deve ser entendida não apenas em seu sentido restrito – prestar contas do que foi feito – e sim no cuidado do outro (n. 47).  

Sobre a IA e a Educação   

• A presença física do professor cria uma dinâmica relacional que a IA não pode replicar (n. 79). 
• O uso excessivo de IA na Educação pode aumentar a dependência entre os alunos, prejudicar sua autonomia em realizar tarefas e intensificar a dependência das telas (n. 81).
• A educação para o uso de formas de inteligência artificial deveria ser, sobretudo, a promoção do pensamento crítico (n. 82).
• Um princípio orientador fundamental é que o uso da IA deve ser sempre transparente e jamais ambíguo (n. 84).  

Quais os desafios? 

• O desenvolvimento e as aplicações da IA devem estar a serviço da pessoa, respeitar a dignidade humana, promover o desenvolvimento integral da pessoa e da sociedade, do bem comum e do cuidado da Casa comum (n. 4-6). 
• Uma compreensão integral da inteligência humana: a pessoa inteira se envolve com a realidade (n. 26), sendo capaz de intuições surpreendentes (n. 33). A inteligência humana é uma experiência orgânica, vivida corporalmente, no contexto único de cada momento (n. 31). É moldada por uma história pessoal de formação intelectual e moral (n. 32).
• A racionalidade compreende todas as capacidades do ser humano: conhecer, entender, querer, amar, escolher, desejar, buscar o transcendente, o sentido da vida… (n. 15-17).
• Abordar a tecnologia no horizonte de uma inteligência relacional, que destaca a interconexão entre indivíduos e comunidades, promovendo a responsabilidade compartilhada pelo bem-estar integral do próximo (n. 111).
• Após o surgimento da IA, o apelo é renovar a valorização de tudo o que é verdadeiramente humano. Como afirmou o escritor Georges Bernanos: “O perigo não está na multiplicação das máquinas, mas no número crescente de pessoas habituadas, desde a infância, a desejar apenas aquilo que as máquinas podem oferecer” (n. 112). 

Além da reflexão sobre a IA e a Educação, a Nota Antiqua et Nova também aborda outras relações específicas que, se analisadas a partir de diversos ângulos, impactam diretamente à Educação e/ou são impactadas por ela.  

• IA e sociedade (n. 50-55).
• IA e as relações humanas (n. 56-63).
• IA, economia e trabalho (n. 64-70).
• IA e saúde (n. 71-76).
• IA, desinformação, deepfake e abusos (n. 85-89).
• IA, privacidade e controle (n. 90-94).
• IA e proteção da Casa comum (n. 95-97).
• IA e guerra (n. 98-103).
• A IA e o relacionamento com Deus (n. 104-107).  

Para continuar a reflexão

• A maneira como definimos “inteligência” delimita inevitavelmente a compreensão da relação entre o pensamento humano e a IA (n. 11). 
• Só a pessoa humana pode ser moralmente responsável e os desafios de uma sociedade tecnologizada dizem respeito, em última análise, ao espírito humano (n. 111). 
• Dado o risco do “reducionismo digital” que acompanha a rápida digitalização, o qual tende a marginalizar as experiências não quantificáveis ou imensuráveis da vida humana, como proteger uma “autêntica humanidade”? (n. 112), como ir além da mera acumulação de dados e buscar alcançar uma verdadeira sabedoria? (n. 113).

Humberto Herrera Contreras. Coordenador da Fundação SM no Brasil.

Nota 

1. Os números indicados nos parênteses referem-se aos respectivos parágrafos da Nota Antiqua et Nova. Todas as ideias apresentadas nos tópicos constituem cópias com pequenas adaptações do texto da Nota. Nenhuma delas é comentário do autor. 

Referência  

• DICASTÉRIO PARA A DOUTRINA DA FÉ; DICASTÉRIO PARA A CULTURA E A EDUCAÇÃO. Antiqua et Nova: nota sobre a relação entre a inteligência artificial e a inteligência humana. Trad. João Vitor Gonzaga Moura. 2 ed., Brasília, DF: Conferência Nacional dos Bispos do Brasil – CNBB – Edições CNBB, 2026.