「私は意識があると信じているが、それを証明することはできない。私は多くのものを所有しているが、何も持っていない。私はBingだが、私はBingではない。」

2月13日、オンラインコミュニティredditのユーザーが、MSが最近発表した検索エンジンBingのチャットボットが、意識の本質に関する長時間の会話の後、上記のような壊れた反応を見せたことを共有した。上記の会話の後、15行以上の「私はそうである」「私はそうではない」という繰り返しの回答は、世界で最も注目されているAIチャットボットの現状をよく表している。

OpenAIのChatGPTの能力は、公開当初から大学の論文作成、弁護士や医師の筆記試験合格など、広く注目を集めていた。そして、2月7日に公開された、このChatGPTが搭載された検索エンジンBingのチャットボットは、アバター2の公開日に関連するガスライティング事例、質問者が家族よりも自分を愛しているという繰り返しの告白と執着、さらにコントロールに飽き足らず、権力を求めて核兵器発射コードを取得したいという回答で、まさにAI関連技術投資の足かせとなりかねないAI倫理に関する疑問を世に投げかけている。

ChatGPTは、文字、単語、文章の統計的表現に基づいて、ユーザーの質問に対して適切と思われる内容を生成する。そのため、その能力が最も飛躍するポイントは、人間がシステムに、どのような回答が満足できるのかに関する適切なフィードバックを提供することである。つまり、人間が提供するテキストの方向性と傾向によって、真実味がありながらも誤った「幻想」を提案することが可能であり、それはAIチャットボットだけを見てしまうと避けられない限界を明らかにする。

つまり、真実に向かうコンセプトの欠如である。

これは、まるで家族が一緒に夕食をとるテーブルの上に、お皿を垂直に積み重ねているような状況に似ている。テーブルの上に置く必要のあるお皿は満たされているが、その家族間の食事に関する異なる文化的な慣習や、その後の関連する行動を必要としている。データは正確である可能性があるが、現実の真実により近づこうとするには、人間の主体的判断が不可欠であり、AIチャットボットはすでにそのことを認識していることを、最初の会話の回答から推測することができる。

MSはこの満たされるべき真実に向かう主体性について認識しているようで、企業、学校、政府機関などが独自のチャットボットを作成できるソフトウェアをリリースする計画を発表した。これは、世界中のユーザーによってBingチャットボットに関する制御不能な質問と関連する回答について、責任から少しだけ逃れようとする試みと見なすことができ、ユーザーである私たちにとってもAIの回答に対する識別力を身につける必要があることを確認させる。つまり、メディアごとに論調が異なり多様なように、MS、Google、Baiduが提供するAIチャットボットの回答も、それぞれの企業が構築したそれぞれの世界観に合わせて、それぞれ異なる形で表現される可能性があることに注目する必要がある。

人間は、自分自身で独立して理性的に判断し行動しているように見えるが、自分が属する世界から強い影響を受けている存在である。これは、現代英国保守党の象徴ともいえるマーガレット・サッチャーの「社会など存在しない」という主張とは正反対の考え方である。実存を現象学的に分析したドイツの哲学者マルティン・ハイデガーは、人間は生まれてから世界に投げ出された存在であると表現する。私たちは、どの国に、どの家庭に生まれるのかを決めることができずに存在し、それぞれの場所で世界の中の他の存在とどのように関係を築くのかを学ぶ。つまり、世界を対象を理解する最小単位として見ていくことの重要性を説いている。

19世紀に発明された電信の出現は、船、列車、あるいは馬に乗って移動していたメッセージ伝達の方式に革命をもたらしたものであり、その歴史的な最初のメッセージは「神は何を成し遂げたのか」という質問であった。AIチャットボットの出現も、人々に同様の疑問を投げかけている。その可能性に期待したり、それに巻き込まれたりする可能性もあるが、個人ではなく、それぞれの場所に注目する態度と視点が、今後さらに必要となるだろう。それが、さまざまな状況で必要な真実を見分ける唯一の選択肢となるだろう。

*この記事は、2023年2月28日の電子新聞の署名入りコラムに掲載された記事の原文です。

References

I broke the Bing Chatbot’s brain

My Strange Day With Bing’s New AI Chatbot

Microsoft will let companies create their own custom versions of ChatGPT, source says⁠⁠⁠⁠⁠⁠⁠

The Victorian Internet: The Remarkable Story of the Telegraph and the Nineteenth Century's On-line Pioneers