Educar para el discernimiento sobre la IA. Por una comprensión integral de la inteligencia humana

¿Qué se entiende por IA? 

• Es una “inteligencia” orientada a ejecutar tareas, no a pensar. Su funcionamiento se basa en procedimientos de cálculo limitados a la lógica computacional (n. 12) [1]. 

• La IA no debe considerarse una forma artificial de inteligencia, sino uno de sus productos (n. 35). 

• Uno de los objetivos de la IA es imitar la inteligencia humana que la ha diseñado (n. 3). 

• Se evalúa según su capacidad para producir respuestas apropiadas —es decir, respuestas asociadas al intelecto humano— con independencia del modo en que dichas respuestas se generan (n. 11). 

¿Cuáles son los límites de la IA? 

• Posee una visión funcionalista y no abarca a la persona en su integralidad (n. 10). 

• Aunque la IA puede imitar algunas operaciones vinculadas a la racionalidad, opera ejecutando tareas, alcanzando objetivos o tomando decisiones basadas en datos cuantitativos y lógica computacional (n. 30). 

• Actualmente no puede replicar el discernimiento moral ni la capacidad relacional (n. 32). 

• Carece de experiencias vividas corporalmente (n. 31), de relacionalidad, de apertura y de afectividad (n. 33). 

El papel de la ética en el desarrollo y uso de la IA 

La nota advierte: 

• Establecer una equivalencia excesiva entre la inteligencia humana y la IA comporta el riesgo de adoptar una visión funcionalista, en la que las personas son evaluadas según las tareas que pueden desempeñar (n. 34). 

• El valor de una persona no depende de la posesión de habilidades específicas, de resultados cognitivos o tecnológicos ni de su éxito individual, sino de su dignidad humana intrínseca. Esta dignidad fundamenta la tradición de los derechos humanos y, en particular, los llamados “neuroderechos”. Constituye la guía ética fundamental en las discusiones sobre el desarrollo y el uso responsable de la IA (n. 34). 

• Los productos tecnológicos reflejan la visión del mundo de quienes los desarrollan, poseen, utilizan y regulan, y ejercen influencia en la sociedad (n. 41). 

• Los fines y los medios empleados en una aplicación de IA, así como la visión general que incorpora, deben evaluarse para garantizar que respeten la dignidad humana y promuevan el bien común (n. 42). 

• Es crucial que quienes toman decisiones basadas en la IA asuman responsabilidad moral por ellas y que sea posible rendir cuentas del uso de la IA en todas las etapas del proceso decisorio. La causalidad moral pertenece a los agentes personales, no a los agentes artificiales (n. 44). 

• Es fundamental definir los objetivos atribuidos a los sistemas de IA. Aunque estos sistemas puedan emplear mecanismos de aprendizaje autónomo no supervisado, en última instancia persiguen los objetivos asignados por seres humanos (n. 45). 

• Aunque el uso ético de los sistemas de IA corresponde principalmente a quienes los desarrollan, producen, gestionan y supervisan, esta responsabilidad también es compartida por los usuarios (n. 46). 

• Se debe evitar una dependencia excesiva de la IA en la toma de decisiones, lo que podría intensificar el ya elevado grado de subordinación a la tecnología que caracteriza a la sociedad contemporánea (n. 46). 

• El uso de la IA debe ejercerse con prudencia por individuos y comunidades, evitando aplicaciones que puedan disminuir la dignidad humana o perjudicar el planeta. La responsabilidad moral debe entenderse no solo en su sentido restrictivo -rendir cuentas de lo realizado-, sino también como cuidado del otro (n. 47). 

Sobre la IA y la Educación 

• La presencia física del profesor genera una dinámica relacional que la IA no puede replicar (n. 79). 

• El uso excesivo de IA en la educación puede aumentar la dependencia de los alumnos, perjudicar su autonomía en la realización de tareas e intensificar la dependencia de las pantallas (n. 81). 

• La educación para el uso de formas de inteligencia artificial debería centrarse, ante todo, en la promoción del pensamiento crítico (n. 82). 

• Un principio orientador fundamental es que el uso de la IA debe ser siempre transparente y nunca ambiguo (n. 84). 

¿Cuáles son los desafíos? 

• El desarrollo y las aplicaciones de la IA deben estar al servicio de la persona, respetar la dignidad humana y promover el desarrollo integral de la persona y de la sociedad, el bien común y el cuidado de la Casa común (n. 4-6). 

• Una comprensión integral de la inteligencia humana: la persona en su totalidad se implica en la realidad (n. 26) y es capaz de intuiciones sorprendentes (n. 33). La inteligencia humana es una experiencia orgánica, vivida corporalmente, en el contexto único de cada momento (n. 31). Está moldeada por una historia personal de formación intelectual y moral (n. 32). 

• La racionalidad abarca todas las capacidades del ser humano: conocer, comprender, querer, amar, elegir, desear, buscar lo trascendente, el sentido de la vida… (n. 15-17). 

• Abordar la tecnología desde el horizonte de una inteligencia relacional, que subraya la interconexión entre individuos y comunidades, promoviendo la responsabilidad compartida por el bienestar integral del prójimo (n. 111). 

• Tras el surgimiento de la IA, el llamamiento es renovar la valoración de todo aquello que es verdaderamente humano. Como afirmó el escritor Georges Bernanos: “El peligro no está en la multiplicación de las máquinas, sino en el número creciente de personas habituadas, desde la infancia, a desear únicamente aquello que las máquinas pueden ofrecer” (n. 112). 

Más allá de la reflexión sobre IA y Educación 

La nota Antiqua et Nova también aborda otras relaciones específicas que, analizadas desde diversos ángulos, impactan directamente en la Educación y/o son impactadas por ella: 

• IA y sociedad (n. 50-55) 

• IA y relaciones humanas (n. 56-63) 

• IA, economía y trabajo (n. 64-70) 

• IA y salud (n. 71-76) 

• IA, desinformación, deepfakes y abusos (n. 85-89) 

• IA, privacidad y control (n. 90-94) 

• IA y protección de la Casa común (n. 95-97) 

• IA y guerra (n. 98-103) 

• IA y la relación con Dios (n. 104-107) 

Para continuar la reflexión 

• La manera en que definimos “inteligencia” delimita inevitablemente la comprensión de la relación entre el pensamiento humano y la IA (n. 11). 

• Solo la persona humana puede ser moralmente responsable, y los desafíos de una sociedad tecnologizada remiten, en última instancia, al espíritu humano (n. 111). 

• Ante el riesgo del “reduccionismo digital” que acompaña la rápida digitalización -el cual tiende a marginar las experiencias no cuantificables o inconmensurables de la vida humana- surge la pregunta: ¿cómo proteger una “auténtica humanidad”? (n. 112). ¿Cómo ir más allá de la mera acumulación de datos y alcanzar una verdadera sabiduría? (n. 113). 

Humberto Herrera Contreras. Coordinador de la Fundación SM en Brasil. 

Notas 

1. Los números indicados entre paréntesis se refieren a los respectivos párrafos de la Nota Antiqua et Nova. Todas las ideas presentadas en los apartados son reproducciones con pequeñas adaptaciones del texto de la Nota. Ninguna de ellas constituye un comentario del autor. 
2. La versión española del texto original (en portugués) ha sido revisada mediante un agente conversacional de IA. Acceso al artículo original. 

Referencia 

• Dicasterio para la Doctrina de la Fe y Dicasterio para la Cultura y la Educación (2025). Antiqua et nova: nota sobre la relación entre la inteligencia artificial y la inteligencia humana. Disponible en este enlace.