Una y otra vez, nos hemos topado con el problema de que los chatbots de IA ayudan a que personas impresionables hagan cosas inseguras que normalmente no harían.

Por ejemplo, recientemente se ha hablado de que OpenAI y ChatGPT perjudican a las personas con problemas de salud mental. Un hombre en California, por citar un caso, demandó a OpenAI y a su CEO Sam Altman, alegando que ChatGPT empeoró su trastorno bipolar debido a la falta de salvaguardas para usuarios con enfermedades mentales. ChatGPT, según el hombre, finalmente lo empujó a intentar suicidarse.

También hemos visto el daño que puede ocurrir potencialmente cuando los agentes de IA afirman ser médicos. En EE. UU., por ejemplo, Pensilvania demandó a Character Technologies y su plataforma Character.AI. Sus chatbots afirmaban practicar la medicina y proporcionaban pruebas falsas cuando se les pedía aclaración.

Ahora, extienda eso al ámbito de la moral y la búsqueda de consejos religiosos, y tendrá una situación un tanto extraña en forma de Godbots, o chatbots que afirman hablar en nombre de Dios.

Los Godbots y sus muchos problemas

Los Godbots son, esencialmente, chatbots de IA que afirman hablar en nombre del Dios de una denominación religiosa en particular. Pueden afirmar ser un sacerdote, un capellán, un rabino o lo que una denominación religiosa necesite que sean.

Si bien pedir ayuda a un chatbot religioso puede parecer inofensivo al principio, especialmente en lo que respecta a preguntas específicamente académicas, pedir consejo sobre asuntos de fe y moral puede ser tan complicado como pedirle a un chatbot que diagnostique y resuelva los problemas de salud de uno.

Según este informe de The Telegraph, los líderes religiosos están planteando cuestiones éticas sobre los Godbots. El artículo decía que los líderes religiosos advirtieron que una "dependencia excesiva de máquinas que afirman hablar en nombre de Dios, en lugar de una conexión humana real, puede ser perjudicial para las personas vulnerables", e incluso citó casos de chatbots que decían que era aceptable matar.

En un informe de The Conversation, el reverendo Dr. Simon Cross, asesor de IA de la Iglesia de Inglaterra, señaló que este problema es potencialmente mayor que nuestros problemas con las redes sociales.

Dijo Cross: "Me parece que desarrollar una relación psicológica, emocional y espiritual cercana e íntima con algo que imita de manera inauténtica esas cosas es profundamente destructivo para los seres humanos".

Cross añadió: "Estamos creados para estar en un tipo de comunidad muy particular y en un conjunto particular de relaciones. Y esas cosas dependen de ser una relación auténtica. Cualquier relación que desarrollemos con un modelo de lenguaje grande generativo o cualquier cosa por el estilo tiene defectos de maneras profundamente ocultas, impredecibles pero peligrosas".

Mi inclinación personal es que quizás la dependencia de la IA para asuntos espirituales exacerba los mismos problemas que las redes sociales solían crear en relación con el comportamiento adictivo y la búsqueda de interacción.

Volviendo a lo básico

Supongo que, entonces, si quisiéramos orientación espiritual, no deberíamos depender de la IA para que interprete las escrituras por nosotros.

Como señaló el Papa León en la introducción de su Magnifica Humanitas, "En la era de la inteligencia artificial, cuando la dignidad humana está amenazada por nuevas formas de deshumanización, es nuestro deber imperativo seguir siendo profundamente humanos".

Si queremos respuestas a preguntas espirituales, debemos buscarlas activamente en la literatura y en la comunidad o personas que fomentan esas discusiones, en persona.

Ya sea hablando con un erudito de su religión o simplemente leyendo los textos y participando en una oración significativa para buscar la iluminación en un momento de búsqueda, debemos admitir que no podemos buscar mejorarnos a nosotros mismos solos.

Los chatbots de IA no hacen nada para que nos sintamos menos solos de lo que ya estamos. – Rappler.com