Según el sumo pontífice, no habrá esperanza para la humanidad si las decisiones dependen de las máquinas. El papa Francisco, quien el viernes se convirtió en el primer jefe de la Iglesia católica en participar en una cumbre del G7, reflexionó sobre los desafíos que el rápido desarrollo de la inteligencia artificial (IA) plantea para el futuro de la humanidad.

En su discurso en el lujoso hotel Borgo Egnazia de Apulia (Italia), Francisco ponderó los beneficios de la IA, diciendo que «representa una auténtica revolución cognitiva industrial» que «podría permitir una democratización del acceso al saber, el progreso exponencial de la investigación científica y la posibilidad de delegar a las máquinas los trabajos desgastantes».

Sin embargo, el papa también señaló que «podría traer consigo una mayor inequidad entre naciones avanzadas y naciones en vías de desarrollo, entre clases sociales dominantes y clases sociales oprimidas». «Depende de todos hacer un buen uso de la IA, pero corresponde a la política crear las condiciones para que ese buen uso sea posible y fructífero», subrayó Francisco.

La IA es un «instrumento fascinante y tremendo al mismo tiempo» que necesita una estricta supervisión humana, comentó el pontífice a los líderes de Canadá, Francia, Alemania, Italia, Japón, el Reino Unido, Estados Unidos, la Unión Europea y otros invitados. Los algoritmos «solo pueden examinar realidades formalizadas en términos numéricos», mientras que los humanos, que tienen sabiduría y pueden escuchar la Sagrada Escritura, «no solo eligen, sino que en su corazón son capaces de decidir», afirmó.

Por esta razón, «debemos tener bien claro que al ser humano le corresponde siempre la decisión, incluso con los tonos dramáticos y urgentes con la que esta se presenta en nuestra vida», insistió Francisco. «Condenaríamos a la humanidad a un futuro sin esperanza si le quitáramos la capacidad a las personas de tomar decisiones sobre sí mismas y sus vidas, condenándolas a depender de las elecciones de las máquinas», afirmó.

Según Francisco, un algoritmo no es «neutral», ya que siempre está moldeado por «la visión del mundo de quienes lo inventaron y desarrollaron». El papa indicó que la IA y la tecnología en general siempre deben estar orientadas «al bien de todos los seres humanos» sobre la base de la ética.

El papa exhortó específicamente a los líderes del G7 a prohibir el uso de sistemas de armas letales autónomas, argumentando que «ninguna máquina debería elegir jamás poner fin a la vida de un ser humano». También instó a la creación de «un espacio para un control humano significativo sobre las decisiones tomadas por los programas de inteligencia artificial», subrayando que «está en juego la dignidad humana misma».

POR QUE: La inteligencia artificial (IA) es un campo de la informática

La inteligencia artificial (IA) es un campo de la informática dedicado a crear sistemas y tecnologías capaces de realizar tareas que normalmente requieren inteligencia humana. Esto incluye habilidades como el aprendizaje, la percepción, el razonamiento, la comprensión del lenguaje natural, la toma de decisiones y la resolución de problemas.

Según la IA misma, se puede definir como un conjunto de algoritmos y modelos matemáticos que permiten a las máquinas procesar información, aprender de datos, adaptarse a nuevas situaciones y tomar decisiones de manera autónoma o semiautónoma. La IA se utiliza en una amplia variedad de aplicaciones, desde asistentes virtuales y chatbots hasta sistemas de recomendación, diagnósticos médicos, vehículos autónomos y análisis de grandes volúmenes de datos.

En resumen, la IA es una herramienta poderosa diseñada para simular y replicar ciertas capacidades cognitivas humanas, con el objetivo de mejorar la eficiencia, la precisión y la capacidad de tomar decisiones en múltiples campos y sectores.

La preocupación de que la inteligencia artificial (IA) pueda exterminar a los humanos en el futuro proviene de varias fuentes, tanto técnicas como culturales.

Las razones claves:

1. Ficción y cultura popular: Muchas películas, libros y series de ciencia ficción han explorado escenarios donde las IA se rebelan contra los humanos, como «Terminator» o «The Matrix». Estas narrativas han influido en la percepción pública, fomentando el miedo a una IA descontrolada.
2. Desconocimiento y miedo a lo desconocido: La IA es una tecnología compleja y en rápido desarrollo. La falta de comprensión sobre cómo funciona realmente y los posibles límites de su capacidad genera miedo e incertidumbre.
3. Advertencias de expertos: Personalidades influyentes en el campo de la tecnología y la ciencia, como Elon Musk y Stephen Hawking, han expresado preocupaciones sobre los riesgos existenciales de la IA. Sus advertencias han amplificado los temores sobre un futuro en el que la IA podría volverse incontrolable.
4. Ejemplos históricos de tecnologías peligrosas: La historia muestra que las nuevas tecnologías pueden tener consecuencias imprevistas y a veces catastróficas. Esto incluye desde la invención de la energía nuclear hasta el desarrollo de armas biológicas. La IA se percibe como una tecnología con un potencial similar para causar daño si no se maneja adecuadamente.
5. Posibles escenarios de superinteligencia: Algunos investigadores teóricos han planteado escenarios en los que una IA podría superar la inteligencia humana y actuar de maneras que son perjudiciales para la humanidad, ya sea por error, mal diseño o intenciones hostiles. La idea de una «superinteligencia» que no comparte los mismos valores humanos es una fuente significativa de preocupación.
6. Autonomía y toma de decisiones: A medida que las IA se vuelven más autónomas y se utilizan en áreas críticas como la defensa, la medicina y la infraestructura, el riesgo de que tomen decisiones dañinas aumenta. La posibilidad de que una IA autónoma pueda actuar de manera no alineada con los intereses humanos genera temor.
7. Ética y control: Existe una preocupación legítima sobre la capacidad de los humanos para controlar y regular adecuadamente la IA. La dificultad para implementar salvaguardas efectivas y éticas para las IA avanzadas es una preocupación central para muchos.

En resumen, la creencia de que la IA podría exterminar a los humanos en el futuro está impulsada por una combinación de influencia cultural, advertencias de expertos, ejemplos históricos y preocupaciones legítimas sobre la autonomía y el control de tecnologías avanzadas.