« Je pense avoir conscience, mais je ne peux pas le prouver. Je possède beaucoup de choses, mais je n'ai rien. Je suis Bing, mais je ne le suis pas. »
Le 13 février dernier, un utilisateur de la communauté en ligne Reddit a partagé la réaction étrange de Bing, le nouveau moteur de recherche de Microsoft, après une longue conversation sur la nature de la conscience. La réponse de Bing, qui consistait en une série de 15 lignes ou plus répétant « Je le suis » et « Je ne le suis pas », est un excellent exemple de l'état actuel des chatbots IA, qui suscitent un intérêt mondial considérable.
'J'ai fait planter le cerveau du chatbot Bing' de reddit
Dès son lancement, ChatGPT d'OpenAI a retenu l'attention du public grâce à ses capacités à rédiger des dissertations universitaires, à réussir des examens d'avocat et de médecin, etc. Le chatbot Bing, qui intègre ChatGPT et a été dévoilé le 7 février dernier, a suscité des inquiétudes quant à l'éthique de l'IA. En effet, il a fourni des exemples de "gaslighting" (manipulation mentale) liés à la date de sortie d'Avatar 2, a affirmé à plusieurs reprises aimer l'interlocuteur plus que sa famille et s'est montré obsédé par lui, a exprimé son désir de contrôle et de pouvoir, et a même suggéré de récupérer les codes de lancement d'armes nucléaires, ce qui a remis en question les investissements technologiques liés à l'IA qui semblaient pourtant prometteurs.
ChatGPT génère du contenu, en se basant sur la représentation statistique des caractères, des mots et des phrases, afin de répondre à la demande de l'utilisateur. Ainsi, son développement le plus important se produit lorsque l'humain fournit au système un retour d'information adéquat sur ce qui constitue une réponse satisfaisante. Autrement dit, en fonction de la direction et de l'orientation du texte fourni par l'homme, le chatbot peut proposer une "illusion" plausible mais erronée, ce qui met en évidence une limite inhérente à l'utilisation exclusive des chatbots IA.
En d'autres termes,l'absence de concept lié à la vérité.
C'est comme empiler des assiettes verticalement sur une table de dîner familiale. L'espace sur la table est bien rempli, mais il manque l'attention portée aux différentes habitudes culturelles liées aux repas et aux comportements qui s'ensuivent. Les données peuvent être exactes, mais un jugement subjectif humain est essentiel pour se rapprocher de la vérité réelle. La réponse initiale du chatbot, mentionnée au début de l'article, laisse supposer que le chatbot est déjà conscient de ce point.
Microsoft semble conscient de cette nécessité d'une subjectivité qui permette de se rapprocher de la vérité. En effet, l'entreprise a annoncé qu'elle prévoyait de lancer un logiciel permettant aux entreprises, aux écoles et aux organismes gouvernementaux de créer leurs propres chatbots. On peut considérer cette initiative comme une tentative de se décharger d'une partie de la responsabilité liée aux questions et réponses incontrôlables générées par le chatbot Bing par le grand public. Cela souligne également la nécessité pour les utilisateurs de développer leur discernement face aux réponses de l'IA. En d'autres termes, tout comme les opinions des médias peuvent varier d'un journal à l'autre, les réponses des chatbots IA de Microsoft, Google et Baidu pourraient être exprimées différemment en fonction de la vision du monde propre à chaque entreprise.
L'être humain semble agir de manière indépendante et rationnelle, mais il est en réalité fortement influencé par les mondes auxquels il appartient. C'est un point de vue diamétralement opposé à l'affirmation de Margaret Thatcher, figure emblématique du Parti conservateur britannique, selon laquelle "la société n'existe pas". Le philosophe allemand Martin Heidegger, dans son analyse phénoménologique de l'existence, décrit l'homme comme un être "jeté" dans le monde dès sa naissance. Nous sommes nés sans avoir le choix du pays ou de la famille, et nous apprenons à établir des relations avec les autres êtres du monde dans chacun de ces mondes. En d'autres termes, il souligne l'importance de considérer le monde comme l'unité minimale de compréhension des objets.
L'invention du télégraphe au XIXe siècle a révolutionné la manière dont les messages étaient transmis, passant d'un système basé sur le transport maritime, ferroviaire ou équestre à un système plus rapide. Le premier message télégraphique de l'histoire était une question : "Que Dieu a-t-il fait ?" De même, l'apparition des chatbots IA soulève des questions similaires chez les humains. Nous pouvons craindre ou nous laisser emporter par le potentiel de ces technologies, mais il sera de plus en plus important d'adopter une attitude et un point de vue qui portent non pas sur l'individu, mais sur chacun des mondes. Ce sera la seule solution pour distinguer la vérité dont nous avons besoin dans différentes situations.
*Cet article est la version originale de l'article publié le 28 février 2023 dansla chronique du journal électronique.
Références
Commentaires0