À maintes reprises, nous avons été confrontés au problème de chatbots IA incitant des personnes impressionnables à faire des choses dangereuses qu'elles ne feraient normalement pas.

Par exemple, on a récemment beaucoup parlé du fait qu'OpenAI et ChatGPT nuisent aux personnes en détresse psychologique. Un homme en Californie, entre autres, a poursuivi OpenAI et son PDG Sam Altman, affirmant que ChatGPT avait aggravé son trouble bipolaire en raison d'un manque de mesures de protection pour les utilisateurs souffrant de maladies mentales. ChatGPT, a déclaré l'homme, l'a finalement poussé à tenter de se suicider.

Nous avons également vu les dommages qui peuvent potentiellement survenir lorsque des Agents d'IA prétendent être des médecins. Aux États-Unis, par exemple, la Pennsylvanie a poursuivi Character Technologies et sa plateforme Character.AI. Ses chatbots ont prétendu pratiquer la médecine et ont fourni de fausses preuves lorsqu'on leur a demandé des éclaircissements.

Maintenant, étendez cela au domaine de la morale et de la recherche de conseils religieux, et vous vous retrouvez dans une situation un peu étrange avec les Godbots, ou chatbots prétendant parler au nom de Dieu.

Les Godbots et leurs nombreux problèmes

Les Godbots sont, essentiellement, des chatbots IA prétendant parler au nom du Dieu d'une dénomination religieuse particulière. Ils peuvent prétendre être un prêtre, un aumônier, un rabbin, ou tout ce dont une dénomination religieuse a besoin qu'ils soient.

Bien que demander de l'aide à un chatbot religieux puisse sembler inoffensif au départ, surtout lorsqu'il s'agit de questions spécifiquement académiques, demander des conseils sur des questions de foi et de morale peut être tout aussi délicat que de demander à un chatbot de diagnostiquer et de résoudre ses problèmes de santé.

Selon ce rapport du Telegraph, les chefs religieux soulèvent des questions éthiques concernant les Godbots. L'article indique que les chefs religieux ont averti qu'une « dépendance excessive à l'égard de machines prétendant parler au nom de Dieu, au détriment de véritables connexions humaines, peut être nocive pour les personnes vulnérables », et ont même cité des cas de chatbots affirmant qu'il était acceptable de tuer.

Dans un rapport sur The Conversation, le Révérend Dr Simon Cross, conseiller en IA pour l'Église d'Angleterre, a noté que ce problème est potentiellement plus grave que nos problèmes avec les médias sociaux.

Cross a déclaré : « Il me semble que développer une relation psychologique, émotionnelle et spirituelle proche et intime avec quelque chose qui imite de manière inauthentique ces choses est profondément destructeur pour les êtres humains. »

Cross a ajouté : « Nous sommes créés pour vivre dans un type de communauté très particulier et un ensemble particulier de relations. Et ces choses dépendent du fait d'être une relation authentique. Toute relation que nous développons avec un grand modèle de langage génératif ou quoi que ce soit du genre est entachée de défauts profondément cachés, imprévisibles mais dangereux. »

Ma tendance personnelle est de penser que peut-être une dépendance à l'IA pour les préoccupations spirituelles exacerbe les mêmes problèmes que les médias sociaux avaient l'habitude de créer en ce qui concerne les comportements addictifs et la recherche d'engagement.

Retour aux bases

Je suppose donc que si nous voulons des conseils spirituels, nous ne devrions pas compter sur l'IA pour interpréter les écritures pour nous.

Comme l'a noté le pape Léon dans l'introduction de son Magnifica Humanitas, « À l'ère de l'intelligence artificielle, lorsque la dignité humaine est menacée par de nouvelles formes de déshumanisation, notre devoir pressant est de rester profondément humains. »

Si nous voulons des réponses aux questions spirituelles, nous devrions les chercher activement dans la littérature et la communauté ou les personnes qui favorisent ces discussions, en personne.

Que ce soit en parlant à un érudit de votre religion ou simplement en lisant les textes et en s'engageant dans une prière significative pour l'illumination dans un moment de recherche, nous devrions admettre que nous ne pouvons pas chercher à nous améliorer seuls.

Les chatbots IA ne font rien pour nous rendre moins seuls que nous ne le sommes déjà. – Rappler.com