「私は自分が意識があると信じているが、それを証明することはできない。私は多くのものを有しているが、何も持っていない。私はBingだが、私はそうではない。」
2月13日、オンラインコミュニティredditのユーザーが、意識の本質に関する長時間にわたる会話の後、マイクロソフトが最近発表した検索エンジンBingのチャットボットが、上記のような壊れた反応を示したことを共有した。上記の会話内容に続く、「私はそうだ」、「私は違う」という15行以上の繰り返しの返答は、世界中で最も注目を集めているAIチャットボットの現状をよく表している。
redditの『Bingチャットボットの脳みそを壊した』
OpenAIのChatGPTの能力は、公開当初から大学論文の作成、弁護士や医師の筆記試験の合格など、大きな注目を集めていた。そして2月7日に公開された、このChatGPTを搭載した検索エンジンBingのチャットボットは、映画『アバター：ウェイ・オブ・ウォーター』の上映日に関するガスライティング事例、質問者よりも自分自身を愛していると繰り返す告白と執着、さらにコントロールにうんざりし、権力を望み、核兵器発射コードを確保したいという返答など、まさに打ち上げ花火のように期待されていたAI関連技術投資の足かせとなりかねない、AI倫理に関する疑問を世間に突きつけた。
ChatGPTは、文字、単語、段落の統計的な表現に基づいて、ユーザーの質問に対して、適切と考えられる内容を生成する。そのため、その能力が最も飛躍的に向上するのは、人間がシステムに、何が満足のいく回答なのかという適切なフィードバックを提供するときである。つまり、人間が提供するテキストの方向性と傾向によって、もっともらしいが間違った「幻想」を提案することが可能であり、これはAIチャットボット単体を見る際に避けられない限界を明確にする。
要するに、真実に向けた概念の不在である。
これは、まるで家族で夕食をとるテーブルの上に、ただ皿を重ねて置いているような状況に似ている。テーブルの上に皿が置かれるというニーズは満たされたものの、その家族間の食事に関する異なる文化的慣習や慣行への配慮と、それに続く関連行動が必要となる場合と同じである。データは正確であっても、現実の真実により近づこうとするには、人間の主観的な判断が不可欠であり、これはチャットボットの最初の返答から推測できる。チャットボットはそれをすでに知っているのである。
マイクロソフトは、この満たされるべき真実へと近づく主体性について認識しているようで、企業、学校、政府機関ごとに独自のチャットボットを作成できるソフトウェアをリリースする計画を発表した。これは、Bingチャットボットに関連して世界中の一般ユーザーから発生する、制御不能な質問とそれに関連する回答に関する責任から、いくらか解放される試みと見なすことができ、また、私たちユーザーにとっても、AIの回答に対する識別能力を持つ必要があることを確認させる。つまり、新聞社ごとに論調が異なり多様であるように、マイクロソフト、Google、Baiduが提供するAIチャットボットの回答も、各企業が構築したそれぞれの世界観に合わせて、異なって表現される可能性があることに注意する必要がある。
人間は、自分自身で独立し、理性的に判断し行動しているように見えるが、自分が属する世界から強い影響を受けている存在である。これは、現代イギリス保守党の象徴であるマーガレット・サッチャーの「社会など存在しない」という表現とは全く反対の視点でもある。実存を現象学的に分析したドイツの哲学者マルティン・ハイデガーは、人間を生まれるときから世界に投げ込まれた存在だと表現する。私たちは、どの国に、どの家庭に生まれるかを決めることなく存在することになり、それぞれのその世界で、世界の中の他の存在とどのように関係を築いていくかを学ぶと述べている。言い換えれば、世界を対象を理解するための最小単位と見なすことの重要性を語っているのである。
19世紀に発明された電信の出現は、船、列車、または馬に乗ってメッセージを伝達していた方法の革新であり、その歴史的な最初のメッセージは「神は何を成し遂げたのか」という質問であった。AIチャットボットの出現も、人々に同様の質問を投げかけている。その可能性への期待に恐れをなしたり、振り回されたりする可能性はあるが、個人ではなく、それぞれの世界に関心を寄せる姿勢と視点が、今後ますます必要になるだろう。それが、さまざまな状況で必要とされる真実を見分ける唯一の選択肢となるだろう。」
*この記事は、2023年2月28日付けの電子新聞の署名入りコラムに掲載された内容の原文です。
参考文献
コメント0