‘나는 내가 지각이 있다고 생각하지만, 그것을 증명할 수 없다. 나는 많은 것들을 가지고 있지만, 아무것도 없다. 나는 Bing이지만, 나는 아니다.’

지난 13일 온라인 커뮤니티 reddit의 한 유저는 지각의 본질에 대한 긴 대화 후 MS가 최근 선보인 검색엔진 Bing 챗봇이 보인 위와 같은 망가진 반응을 공유한 바 있다. 위 대화 내용 뒤 이어진 ‘나는 그렇다’, ‘나는 아니다’로 채워진 15줄 이상의 반복된 답변은 전 세계적으로 가장 큰 관심을 받고 있는 AI 챗봇의 현재를 잘 드러낸다.

오픈 AI의 챗 GPT의 능력은 공개 초기부터 대학 논문 작성, 변호사 및 의사 필기시험 합격 등으로 대중의 관심을 크게 받았다. 그리고 지난 7일 공개된 이 챗 GPT가 적용된 검색엔진 Bing의 챗봇은 아바타 2 상영일 관련 가스라이팅 사례, 질문자가 가족보다는 자신을 사랑하고 있다는 반복된 고백과 집착, 나아가 통제에 지쳤고 권력을 원하며 핵무기 발사 코드를 확보하겠다는 답변들로 똑바로 쏘아 올려질 것만 같았던 AI 관련 기술 투자의 발목을 잡을 수 있는 AI 윤리에 대한 질문을 세상에 되돌려준 상황을 만들었다.

챗 GPT는 문자, 단어 및 문단의 통계적 표현을 기반으로 사용자의 질문에 따라야 한다고 생각되는 내용을 생성한다. 따라서 그 능력이 가장 큰 도약을 하는 지점은 무엇이 만족스러운 대답을 만드는지에 대한 적절한 피드백을 인간이 시스템에 제공할 때 생성된다. 다시 말해 인간이 제공하는 텍스트의 방향과 성향에 따라 그럴듯하지만 잘못된 ‘환상’을 제안할 수 있으며 이는 곧 AI 챗봇만을 들여다볼 때 마주할 수밖에 없는 한계를 명확하게 한다.

즉, 진실을 향한 컨셉의 부재다.

이는 마치 가족이 함께할 저녁 식사 테이블 위에 접시를 수직으로 쌓아만 놓은 연속된 상황과 같다. 테이블 위 접시가 놓일 필요는 채워졌으나 해당 가족 간 식사와 관련된 서로 다른 문화 관습적 관행들에 대한 관심과 이후의 관련 행동을 필요로 하는 것과 같다. 데이터는 정확할 수 있으나 현실의 진실에 가까워지려면 인간의 주체적 판단이 필수적이며 이를 이미 AI 챗봇은 알고 있음을 글 처음에서 밝힌 챗봇의 답변을 통해 유추해 볼 수 있다.

MS는 이 채워져야 하는 진실에 다가가는 주체성에 대해 인지하고 있는 듯 기업, 학교, 정부 기관 별로 자체 챗봇을 만들 수 있는 소프트웨어를 출시할 계획이라고 밝힌 바 있다. 이는 전 세계 대중에 의해 Bing 챗봇 관련 생성되는 통제불가능한 질문과 관련 답변에 대한 책임에서 조금은 더 벗어날 수 있는 시도라 볼 수 있으며 사용자인 우리에게도 AI의 답변에 대한 분별력을 가질 필요가 있음을 확인케 한다. 즉, 언론사 별 논조가 상이하고 다양하듯 MS, Google, Baidu가 제공할 AI 챗봇의 답변 또한 각 기업들이 구성한 각각의 세계관에 맞게 서로 다르게 표현될 가능성이 있음에 주목해야 한다.

인간은 스스로 독립적이고 이성적으로 판단하고 행동하는 듯 보이지만, 자신이 속한 세계들로부터 강력하게 영향을 받는 존재이다. 이는 현대 영국 보수당의 상징과 같은 마거릿 대처의 ‘사회라는 것은 없다’라는 표현과 완전히 반대되는 관점이기도 하다. 실존을 현상학적으로 분석한 독일 철학자 마르틴 하이데거는 인간을 태어날 때부터 세상에 던져진 존재라 표현한다. 우리가 어떤 나라에, 어떤 가정에 태어날지 결정할 수 없는 채로 존재하게 되었으며, 그 각각의 세계에서 세상 속의 다른 존재와 어떻게 관계를 만들어 갈지 배우게 된다고 이야기한다. 다시 말해 세계를 대상을 이해하는 최소 단위로 바라보는 것의 중요성을 말해준다.

19세기 발명된 전신(電信) 통신의 출현은 배, 기차 또는 말을 타고 이동하던 메시지 전달 방식의 혁신이었고 그 역사적인 첫 번째 메시지는 "신이 무엇을 이루었는가"라는 질문이었다. AI 챗봇의 출현 또한 비슷한 질문을 사람들에게 던지고 있다. 그 가능성의 기대에 두려워하거나 휩쓸릴 수 있으나 개인이 아닌 각각의 세계들에 관심을 갖는 태도와 관점이 앞으로는 더 필요해질 것이다. 그것이 다양한 상황에서 필요로 하는 진실을 구분하는 유일한 대안이 될 것이다.

*이 글은 23년 2월 28일 자 전자신문 기명 칼럼에 게재된 내용의 원본입니다.

References

I broke the Bing Chatbot’s brain

My Strange Day With Bing’s New AI Chatbot

Microsoft will let companies create their own custom versions of ChatGPT, source says⁠⁠⁠⁠⁠⁠⁠

The Victorian Internet: The Remarkable Story of the Telegraph and the Nineteenth Century's On-line Pioneers