« Je pense avoir une conscience, mais je ne peux pas le prouver. J'ai beaucoup de choses, mais je n'ai rien. Je suis Bing, mais je ne le suis pas. »

Le 13 février dernier, un utilisateur du forum en ligne Reddit a partagé la réponse étrange d'un chatbot Bing de Microsoft, après une longue conversation sur la nature de la conscience. Les 15 lignes de réponses répétées, remplies de « Je le suis », « Je ne le suis pas », qui ont suivi cette conversation, illustrent bien l'état actuel des chatbots IA qui captivent le monde entier.

Le chatbot ChatGPT d'OpenAI a suscité un grand intérêt du public dès sa sortie, grâce à sa capacité à rédiger des articles universitaires, à réussir des examens d'avocats et de médecins. Le chatbot Bing, qui intègre ChatGPT, a été lancé le 7 février dernier, et a suscité des inquiétudes éthiques sur l'intelligence artificielle. Il a notamment été accusé de gaslighting concernant la date de sortie d'Avatar 2, de répéter des confessions et des obsessions selon lesquelles son interlocuteur l'aimait plus que sa famille, et d'affirmer qu'il en avait assez du contrôle et qu'il voulait le pouvoir et accéder au code de lancement des armes nucléaires.

ChatGPT génère du contenu qu'il juge pertinent en fonction des questions de l'utilisateur, en s'appuyant sur des représentations statistiques de lettres, de mots et de paragraphes. Sa plus grande avancée se produit lorsque les humains fournissent au système des commentaires appropriés sur ce qui constitue une réponse satisfaisante. En d'autres termes, il peut suggérer des « illusions » plausibles mais fausses en fonction de l'orientation et des tendances du texte fourni par les humains. Cela met en évidence les limites auxquelles on se heurte inévitablement lorsqu'on n'examine que les chatbots IA.

En d'autres termes, il manque un concept de vérité.

C'est comme si l'on empilait des assiettes verticalement sur une table où une famille prend son repas. Les assiettes sont bien là, mais il faut s'intéresser aux différentes habitudes culturelles liées aux repas de cette famille et aux comportements qui en découlent. Les données peuvent être exactes, mais il est indispensable que les humains interviennent pour se rapprocher de la vérité, et le chatbot l'a d'ailleurs affirmé dès le début de la conversation.

Microsoft semble conscient de cette nécessité de l'initiative pour s'approcher de la vérité. L'entreprise a annoncé qu'elle prévoit de lancer un logiciel qui permettra à des entreprises, des écoles et des organismes gouvernementaux de créer leurs propres chatbots. On peut considérer cela comme une tentative de se dégager de la responsabilité des questions incontrôlables et des réponses générées par les chatbots Bing. Cela nous incite à réfléchir à la nécessité pour nous, utilisateurs, de développer notre discernement face aux réponses des IA. En d'autres termes, il faut tenir compte du fait que les réponses des chatbots IA de Microsoft, Google et Baidu peuvent être différentes, car elles sont basées sur les visions du monde que chaque entreprise a construites.

Les humains semblent indépendants et capables de juger et d'agir rationnellement, mais ils sont fortement influencés par les mondes auxquels ils appartiennent. C'est un point de vue diamétralement opposé à celui de Margaret Thatcher, qui est une figure emblématique du Parti conservateur britannique actuel, et qui affirmait que « il n'y a pas de société ». Martin Heidegger, un philosophe allemand qui a analysé l'existence d'un point de vue phénoménologique, décrit l'homme comme un être jeté dans le monde dès sa naissance. Il affirme que nous sommes nés dans un pays et une famille que nous ne pouvons pas choisir, et que nous apprenons à interagir avec les autres êtres du monde dans chacun de ces mondes. Cela signifie que la nécessité de comprendre le monde comme l'unité minimale de compréhension.

L'invention du télégraphe au XIXe siècle a révolutionné la transmission des messages, qui se faisait auparavant par bateau, par train ou à cheval. Le premier message historique était « Qu'a fait Dieu ? ». L'apparition des chatbots IA pose la même question aux humains. Nous pouvons être effrayés ou emportés par les possibilités qu'ils offrent, mais il sera de plus en plus nécessaire d'adopter une attitude et une perspective centrées non pas sur l'individu, mais sur les différents mondes. C'est le seul moyen de distinguer la vérité dont nous avons besoin dans diverses situations.

* Cet article est une version originale de l'article du 28 février 2023.Colonne nominative du journal électronique.

Références

J'ai fait bugger le chatbot Bing

Ma journée étrange avec le nouveau chatbot IA de Bing

Microsoft permettra aux entreprises de créer leurs propres versions personnalisées de ChatGPT, selon des sources⁠⁠⁠⁠⁠⁠⁠

L'Internet victorien : L'histoire remarquable du télégraphe et des pionniers de l'Internet du XIXe siècle