Vaticano: el Papa advirtió sobre los riesgos de la IA

El Papa Francisco considera "notable" el progreso de las nuevas tecnologías de la información, especialmente en el sector digital, pero al mismo tiempo advierte de "graves riesgos", así lo dice en su mensaje para la 57ª Jornada Mundial de la Paz, que la iglesia celebra el próximo 1º de enero de 2024. Fue publicado por el Vaticano este jueves y se centra en el tema de la inteligencia artificial (IA).

El Papa denuncia, en su mensaje los riesgos de los sistemas de regulación de las “opciones personales” basados en algoritmos, con riesgos de manipulación de individuos y sociedades.

“Estas formas de manipulación o control social requieren una cuidadosa atención y vigilancia, lo que implica una clara responsabilidad jurídica por parte de los productores, de quienes los contratan y de las autoridades gubernamentales”, escribe en un texto titulado 'Inteligencia artificial y paz'.

En una reflexión sobre los sistemas de inteligencia artificial, Francisco observa que son susceptibles de difundir “formas de prejuicios y discriminación”.

“Además, algunas formas de inteligencia artificial parecen a veces capaces de influir en las decisiones de los individuos a través de opciones predeterminadas asociadas con estímulos y elementos disuasorios”, añade.

El mensaje advierte sobre el “uso invasivo" de la vigilancia o la adopción de sistemas de crédito social. "No debemos permitir que los algoritmos determinen el modo en el que entendemos los derechos humanos, que dejen a un lado los valores esenciales de la compasión, la misericordia y el perdón o que eliminen la posibilidad de que un individuo cambie y deje atrás el pasado".

El Papa señala el impacto de las nuevas tecnologías en el lugar de trabajo y pide a los responsables políticos que promuevan “el respeto por la dignidad de los trabajadores y la importancia del empleo para el bienestar económico de las personas, las familias y las sociedades, la estabilidad de los empleos y la equidad salarial".

Francisco alude a los retos que plantea para la educación el uso de formas de inteligencia artificial, defendiendo la “fomento del pensamiento crítico”.

“Hablar de 'formas de inteligencia', en plural, puede ayudar sobre todo a poner de relieve la brecha insalvable que existe entre estos sistemas, por sorprendentes y poderosos que sean, y la persona humana”, añade.

El mensaje destaca la necesidad de establecer organizaciones internacionales que puedan “examinar las cuestiones éticas emergentes y proteger los derechos” de las personas.

“La dignidad intrínseca de cada persona y la fraternidad que nos une como miembros de la única familia humana debe ser la base para el desarrollo de las nuevas tecnologías”, insiste Francisco.

El Papa supone que la inteligencia artificial será “cada vez más importante”, planteando desafíos “no sólo de carácter técnico, sino también antropológico, educativo, social y político”.

“Así, los notables avances en las nuevas tecnologías de la información, especialmente en la esfera digital, presentan oportunidades apasionantes, pero también graves riesgos, con graves implicaciones para la búsqueda de la justicia y la armonía entre los pueblos”, continúa.

“Espero que esta reflexión fomente el progreso en el desarrollo de formas de inteligencia artificial para, en última instancia, servir a la causa de la fraternidad humana y de la paz”, apela Francisco.

La Jornada Mundial de la Paz fue instituida en 1968 por San Pablo VI (1897-1978) y se celebra el primer día de cada año, con un mensaje papal.

El mensaje se puede leer aquí