Directrices del Vaticano sobre la inteligencia artificial

Un documento del Vaticano publicado ayer ofrece pautas éticas de amplio alcance para la aplicación de la inteligencia artificial (IA) en sectores que van desde la guerra hasta la atención sanitaria, con un llamado subyacente a que la tecnología emergente debe usarse como una herramienta para complementar, y no reemplazar, la inteligencia humana.

El papa Francisco emitió varias advertencias sobre los riesgos asociados con la tecnología de IA, y este nuevo documento de las oficinas de doctrina y cultura del Vaticano amplía lo que ya ha dicho el pontífice. Asimismo, llega mientras el nuevo chatbot de la startup china DeepSeek ha elevado las apuestas en la carrera tecnológica de inteligencia artificial, a una fracción del costo que ha tenido ChatGPT en EE UU. El documento subraya que la responsabilidad humana necesita crecer en proporción a la nueva tecnología, y que el impacto de los usos de la IA en varios sectores “no siempre puede ser predecible desde su inicio”.

“La IA debería usarse solo como una herramienta para complementar la inteligencia humana, en lugar de reemplazar su riqueza”, dijo el documento en su conclusión.

El documento advierte que la inteligencia artificial tiene el potencial de aumentar los instrumentos de guerra “más allá del alcance de la supervisión humana”, lo que podría provocar “una carrera armamentista desestabilizadora”. Sistemas de armas que pueden identificar y atacar objetivos sin intervención humana, eliminando “la capacidad única humana para el juicio moral y la toma de decisiones éticas”, afirma. “Ninguna máquina debería elegir nunca quitar la vida a un ser humano”, advierte el documento.

El documento alerta que la IA no es un sustituto de “las relaciones humanas auténticas” y cita su falta de empatía como un riesgo al antropomorfizar la inteligencia artificial en áreas como el desarrollo infantil o las relaciones interpersonales. “Mientras que los seres humanos están destinados a experimentar relaciones auténticas, la IA solo puede simularlas”, dice el documento.

El documento cita el riesgo de que “a medida que la sociedad se aleja de la conexión con lo trascendente, algunos se sienten tentados de recurrir a la IA en busca de sentido y cumplimiento, anhelos que solo pueden ser verdaderamente satisfechos en comunión con Dios”. “La presunción de sustituir a Dios por un artefacto de fabricación humana es idolatría, una práctica contra la cual la Escritura advierte explícitamente”, señala el documento.

LE PUEDE INTERESAR

¿Por qué se dispara el precio del huevo en EE UU? Ya hay escasez y crece la preocupación

LE PUEDE INTERESAR

Sorpresa china: “DeepSeek” sacude los mercados

Los avances en el procesamiento de datos impulsado por la inteligencia artificial han hecho que la privacidad de los datos sea “aún más imperativa como salvaguarda para la dignidad y la naturaleza relacional” de los individuos, destaca el texto del Vaticano.

“El riesgo de exceso de vigilancia debe ser monitoreado por reguladores apropiados para garantizar la transparencia y la rendición de cuentas pública”, agrega.

El documento subraya que, mientras la IA puede ayudar a combatir el cambio climático a través de modelos para prever eventos extremos, ayudar a gestionar emergencias y promover el desarrollo sostenible, también plantea riesgos que están oscurecidos por el uso de palabras como “la nube” que desvinculan el almacenamiento de datos “del mundo físico”. “Es crucial reconocer que su operación demanda enormes cantidades de energía y agua, contribuyendo significativamente a las emisiones de CO2”, señala el documento.

EDUCACIÓN Y SALUD

El documento recomienda que la IA debería ayudar a promover el pensamiento crítico, y no solo entrenar a “los jóvenes sobre cómo acumular información y generar respuestas rápidas”. La educación no se trata de “llenar la cabeza con ideas”, sino de “tomar un riesgo en las tensiones entre la mente, el corazón y las manos”, indica. “Las escuelas, universidades y sociedades científicas tienen el desafío de ayudar a estudiantes y profesionales a comprender los aspectos sociales y éticos del desarrollo y usos de la tecnología”, dice el documento.

Mientras cita el potencial de la IA para mejorar la atención médica, como en el diagnóstico de enfermedades, el documento insta a que la inteligencia artificial se use para mejorar y no “reemplazar la relación entre pacientes y proveedores de atención sanitaria”. “Las decisiones respecto al tratamiento del paciente y el peso de la responsabilidad que conllevan siempre deben permanecer con la persona humana, y nunca deben delegarse a la IA”, afirma.

La IA presenta un riesgo de “generar contenido manipulado y falsa información, que puede fácilmente engañar a las personas debido a su parecido con la verdad”, advierte el documento. “Contrarrestar las falsedades impulsadas por la IA no es solo trabajo de expertos de la industria, requiere los esfuerzos de todas las personas de buena voluntad”, afirma, y hace un llamado a la diligencia por parte de aquellos que comparten contenido generado por inteligencia artificial para verificar “la veracidad de lo que difunden”. (AP)