Ya convive con nosotros/as. En algunos casos de manera intensa. Ya está presente en la cocina, en el cuarto y en la sala de nuestras casas. También en las guerras. E incluso, en la mente de muchos y muchas. Estamos inmersos en la sociedad tecnológica. La cual sostiene que no hay límites. Que podemos incluso ganarle a la propia naturaleza o incluso a dios (con minúscula porque del dios al que se refieren no es al Dios de Jesús). Es el culto a la grandiosidad de la tecnología.

Oriol Quintana, doctor en Humanidades de la Universidad Pompeu Fabra (Barcelona) define la “mentalidad tecnológica como esa que explota atajos saltándose los límites impuestos tanto por la naturaleza como por las costumbres sociales”. Y todavía va más allá… quiere establecer incluso una forma de entendernos, es decir, propone e impone una antropología. Y aquí el peligro de “endiosar” la tecnología. Y la tecnología no es neutral.

El papa León lo señala de manera clara; “la tecnología nunca es neutral, porque adquiere las características de quienes la diseñan, financian, regulan y utilizan”. En la encíclica Laudato si, el Papa Francisco le llamó a esta nueva visión el paradigma tecnocéntrico. La humanidad absolutizando el poder tecnológico creyendo que este nos dará la felicidad “perdida”.  

Sobre la tecnología el premio Nobel de Economía 2024, Daron Acemoglu, señala “el progreso tecnológico no es necesariamente progreso moral. Que algo sea técnicamente factible no significa que sea beneficioso para la humanidad. Que una tecnología sea deseable depende de quién la controla y de la ideología e intereses que la guían”.

El economista griego Yanis Varoufakis, dice que “hoy está surgiendo una nueva forma de capital que está dando origen a una nueva clase gobernante y, quizás, incluso a un nuevo modo de producción”. Y que asistimos a “una nueva forma de capital en ascenso (el capital nube, esto es, máquinas algorítmicas conectadas en red que confieren a sus dueños un poder extraordinario para modificar nuestra conducta) necesita su propia ideología para liberarse plenamente”. Este economista llama a esta nueva ideología el tecnofeudalismo. Es otra forma de hacer economía (producción, distribución, consumo y acumulación). Una forma que redefine el trabajo y de algún modo lo desfigura. Le reemplaza el rostro humano por el rostro de las maquinas. Degrada la esencia del trabajo incluyendo la naturaleza. Esa forma de hacer economía destrona a la persona y apuesta a su poder sin límites éticos o morales.

Ante los peligros de dar por buenas las nuevas tecnologías como la inteligencia artificial, el Papa León XIV, presentó la carta encíclica Magnifica Humanitas. En la actividad de presentación de la encíclica, el cofundador de Anthropic y científico de la IA, Christopher Olah, advirtió que la inteligencia artificial no puede dejarse únicamente en manos de las empresas tecnológicas ni en los ingenieros porque esta puede transformar radicalmente la misma sociedad. De igual forma, que las empresas no deben autorregularse solas. Sobre esto último ya sabemos que el mercado no se autorregula.

Asistimos a una forma de poder que está en manos de unos pocos y que a su vez se inserta en las esferas del poder político para subordinarlo y diseñar, manipular e impulsar políticas que no le regulen ni establezcan límites. El poder en manos de unos pocos. Antes, las innovaciones eran un poco más tuteladas por los estados asumiendo roles de arbitro tratando de balancear su impacto en lo concerniente al bien común, la dignidad humana, el trabajo, el destino universal de los bienes, el cuidado de la casa común y la justicia. El paradigma tecnocrático (como lo llamó el Papa Francisco) actual está gobernado por la lógica de la eficiencia, el control y del lucro individual como fuerzas propulsoras de esta visión. Y esa es la nueva cosmovisión de la tecnocracia controlada por un puñado de personas poderosas en donde lo que mueve es la acumulación de grandes capitales sin ética, sin moral y desvestida de conciencia humanitaria.

Una de las cuestiones centrales de la presentación de la encíclica es que la IA no es solo un asunto tecnológico, sino que es un asunto profundamente humano. Y si es un asunto humano requiere un discernimiento moral y ético. La carta encíclica propone criterios y principios para regular la IA. ¿Cuáles? ¿Qué impacto tiene la IA sobre bien común, la dignidad humana, el trabajo, el destino universal de los bienes, el cuidado de la casa común y la justicia, entre otros? Principios éticos y morales universales incluyendo cómo impacta los derechos humanos. Pablo VI, hoy santo de la Iglesia católica, lo advirtió antes al decir “los progresos científicos más extraordinarios, las proezas técnicas más sorprendentes, el crecimiento económico más prodigioso, si no van acompañados de un auténtico progreso social y moral, se vuelven, en definitiva, contra el hombre”.

La propuesta de esta encíclica no es hacer un tratado sobre la inteligencia artificial sino ofrecer algunos criterios para hacer un discernimiento moral y social que proteja la primacía de la persona humana. Esta primera encíclica del papa León XIV es una reflexión clara y magistral de una de las principales preocupaciones relacionadas al modo en que la humanidad camina. ¿Hacia dónde vamos? ¿Cómo vamos? ¿Y a quiénes impacta?