El papa alerta de una IA usada como “oráculo” y urge a guiar la revolución digital

 Ciudad del Vaticano.- El papa León XIV ha alertado este sábado de que la Inteligencia Artificial (IA), usada incluso como “oráculo“, amenaza con “erosionar” las capacidades humanas y el debate público y ha urgido a “guiar” la revolución digital en defensa de las personas.

El pontífice estadounidense ha publicado este sábado su primer mensaje por la Jornada Mundial de las Comunicaciones Sociales, que se celebra cada 17 de mayo, y en el mismo ha avisado de los riesgos que los algoritmos, las redes y una tecnología descontrolada pueden acarrear en la vida y la interacción de los seres humanos.

León XIV, atento siempre a este ámbito, alega que “hay múltiples pruebas” de que los algoritmos diseñados para animar el uso de las redes “premian las emociones rápidas y penalizan” la reflexión.

A este fenómeno, se ha sumado una confianza “ingenua y acrítica” en la IA como “una ‘amiga’ omnisciente, dispensadora de toda información, archivo de toda memoria, ‘oráculo’ de todo consejo”.

“Si bien la IA puede proporcionar apoyo y asistencia en la gestión de tareas comunicativas, eludir el esfuerzo del propio pensamiento, conformándonos con una compilación estadística artificial, corre el riesgo, a largo plazo, de erosionar nuestras capacidades cognitivas, emocionales y comunicativas”, sostiene.

En este sentido, el papa ha señalado que en los últimos años la IA está tomando “cada vez más” el control de la producción de cultura, de textos música o vídeo, por lo que, a su juicio, “gran parte de la industria creativa humana corre el riesgo de ser desmantelada”.

León XIV también reflexiona sobre un mundo en el que la realidad y las relaciones son “simuladas” por las redes sociales.

“Cuando ojeamos nuestro flujo de información (feed) es cada vez más difícil comprender si estamos interactuando con otros seres humanos o con ‘bot’ o ‘influencers’ virtuales”, lamenta.

Esto representa otro peligro para la sociedad ya que las posturas de estos “agentes automatizados” influyen en los debates públicos y en las decisiones de las personas.

“Los ‘chatbots’ basados engrandes modelos lingüísticos (LLM) están resultando sorprendentemente eficaces en la persuasión encubierta mediante una optimización continua de la interacción personalizada (…) Estos ‘chatbots’ excesivamente afectuosos, además de estar siempre presentes y disponibles, pueden convertirse en arquitectos ocultos de nuestros estados emocionales”, sostiene.

El pontífice, que eligió su nombre pontificio para suceder a León XIII, el papa de la Revolución Industrial, consciente de la era de cambios digitales de su pontificado, ha arremetido así contra una tecnología que “explota nuestra necesidad de relacionarnos”.

Esto, ha denunciado, “puede conllevar, no solo consecuencias dolorosas en el destino de los individuos, sino que puede dañar el tejido social, cultural y político de las sociedades”.

“Esto se da cuando sustituimos las relaciones con los otros con una IA adiestrada para catalogar nuestros pensamientos y construir a nuestro alrededor un mundo de espejos”, aseveró.

El papa recordó que, tras esta “enorme fuerza invisible”, solo hay un reducido grupo de empresas, lo cual suscita “preocupación” por el control de los algoritmos y la IA como un “oligopolio“.

El desafío, por lo tanto, “no consiste en detener la innovación digital” sino en “guiarla” siendo conscientes del fenómeno.

Por eso, pidió “transparencia” a los desarrolladores de estas tecnologías y una “regulación adecuada” a los legisladores de todo el mundo para contener “la difusión de contenidos falsos”.