Papa Francisco habla en reunión del G7 y advierte riesgos de la IA

El papa Francisco desafió el viernes a los líderes de las democracias ricas del mundo a mantener la dignidad humana en primer lugar en el desarrollo y uso de la inteligencia artificial, advirtiendo que una tecnología tan poderosa corre el riesgo de convertir las relaciones humanas en meros algoritmos.

Francisco aplicó su autoridad moral al Grupo de los Siete, invitado por la anfitriona Italia para dirigirse a una sesión especial en su cumbre anual sobre los peligros y las promesas de la IA. Al hacerlo, se convirtió en el primer Papa en asistir al G7, ofreciendo una visión ética de un tema que está cada vez más en la agenda de las cumbres internacionales, las políticas gubernamentales y las juntas corporativas por igual.

Francisco dijo que los políticos deben tomar la iniciativa para garantizar que la IA siga centrada en el ser humano, de modo que las decisiones sobre cuándo usar armas o incluso herramientas menos letales siempre sean tomadas por humanos y no por máquinas.

«Condenaríamos a la humanidad a un futuro sin esperanza si le quitáramos la capacidad a las personas de tomar decisiones sobre sí mismas y sus vidas, condenándolas a depender de las elecciones de las máquinas», afirmó. «Necesitamos garantizar y salvaguardar un espacio para un control humano adecuado sobre las decisiones tomadas por los programas de inteligencia artificial: la dignidad humana misma depende de ello». La declaración final del G7 reflejó en gran medida sus preocupaciones.

Los líderes prometieron coordinar mejor los marcos regulatorios y de gobernanza que rodean a la IA para mantenerla «centrada en el ser humano». Al mismo tiempo, reconocieron los impactos potenciales en los mercados laborales de que las máquinas sustituyan a los trabajadores humanos y en el sistema judicial de los algoritmos que predicen la reincidencia.

“Buscaremos una transformación digital inclusiva, centrada en las personas, que sustente el crecimiento económico y el desarrollo sostenible, maximice los beneficios y gestione los riesgos, en consonancia con nuestros valores democráticos compartidos y el respeto de los derechos humanos”, dijeron.

Al asistir a la cumbre, Francisco se unió a un coro de países y organismos globales que presionan por barreras más estrictas para la IA tras el auge de la IA generativa iniciado por el chatbot ChatGPT de OpenAI.

El Papa argentino utilizó su mensaje de paz anual de este año para pedir un tratado internacional que garantice que la IA se desarrolle y utilice de manera ética. En él, argumentaba que una tecnología que carece de los valores humanos de compasión, misericordia, moralidad y perdón es demasiado peligrosa para desarrollarse sin control.

No repitió ese llamado explícitamente en su discurso del viernes, pero dejó en claro que la responsabilidad de liderar el tema recae en los políticos. También los instó a prohibir en última instancia el uso de armas letales autónomas, conocidas coloquialmente como “robots asesinos”.

“Ninguna máquina debería jamás optar por quitarle la vida a un ser humano”, afirmó.

En cuanto a la cuestión de las armas, los líderes del G7 dijeron que reconocían el impacto de la IA en el ámbito militar “y la necesidad de un marco para el desarrollo y uso responsable”. Alentaron a los estados a asegurarse de que “el uso militar de la IA sea responsable, cumpla con el derecho internacional aplicable, en particular el derecho internacional humanitario, y mejore la seguridad internacional”.

La primera ministra italiana, Giorgia Meloni, invitó a Francisco y anunció su participación, sabiendo el impacto potencial de su poder estelar y su autoridad moral en el G7. Los que estaban sentados a la mesa parecían debidamente asombrados, y el bullicioso zumbido en la sala quedó en absoluto silencio cuando llegó Francisco.

“El Papa es, bueno, un tipo de celebridad muy especial”, dijo John Kirton, politólogo de la Universidad de Toronto que dirige el grupo de expertos G7 Research Group.

Kirton recordó que la última cumbre que tuvo este tipo de poder estelar, que luego se tradujo en acción, fue la reunión de 2005 en Gleneagles, Escocia. Allí, los líderes mundiales decidieron borrar los 40 mil millones de dólares de las deudas que tienen 18 de los países más pobres del mundo con el Banco Mundial y el Fondo Monetario Internacional.

Esa cumbre fue precedida por un concierto Live 8 en Londres que contó con Sting, The Who y un Pink Floyd reformado y atrajo a más de un millón de personas en una muestra de solidaridad contra el hambre y la pobreza en África.