지난주 UMG(Universal Music Group)은 TikTok과의 라이선스 계약 종료 및 재협상 결렬 이후 해당 플랫폼에서 전체 음악 카탈로그를 삭제했다. 테일러 스위프트, 드레이크 등 많은 아티스트의 음악이 삭제됨으로 인해 사용자들이 보는 동영상에서 관련 음악이 포함된 오디오가 음소거되었고, 크리에이터들은 더 이상 새 동영상에 관련 노래들을 추가할 수 없게 되었다. UMG는 이 같은 결정에 대해 해당 숏폼 동영상 플랫폼은 AI가 생성한 녹음이 넘쳐나고 AI 음악 창작을 장려함으로써 AI에 의한 아티스트 대체를 후원하는 것과 다름없다며 방대한 양의 저작권 침해 콘텐츠, 혐오 발언, 편견, 괴롭힘에 대처하기 위한 노력을 거의 하지 않음에 기반함을 밝혔다.

AI는 대중의 입장에서 새로운 기술인 동시에 새로운 유형의 기술이라 할 수 있다. 학습하는 최초의 기술이자 제작자의 역량을 뛰어넘어 독립적으로 발전할 수 있는 잠재력을 가진 기술이기 때문이다. 하지만 AI의 잠재력이 계속해서 빠르게 현실화되는 현상은 곧 인간의 미래에 대한 예측이 시급해졌음을 의미하기도 한다. 그리고 이번 UMG와 TikTok 간 재협상 결렬, 작년 Open AI 내부의 실패한 쿠데타, 일론 머스크의 TruthGPT 계획 등의 현재까지 AI 생태계 전반을 통과하는 거대 이슈들은 대부분 대립, 전쟁, 인류 생존 등의 표현들로 가득 채워져 있음에 주목할 필요가 있다.

다시 말해 우리가 기술의 미래를 상상할 때 암묵적으로 적용하는 지배적인 뼈대가 165년 전의 찰스 다윈의 진화론임을 확인할 수 있다.

다윈의 진화론적 관점은 샌프란시스코에 본부를 둔 비영리단체인 The Center for AI Satefy의 선언문에서 극적으로 드러나는데, 이들은 AI로 인한 멸종 위험 완화는 팬데믹이나 핵전쟁과 같은 규모의 사회적 위험과 비견될 정도의 전 세계적인 우선순위가 되어야 함을 강조한다. 자연선택으로 인해 가장 영향력 있는 미래의 AI가 인류의 안전보다 자신의 의제를 선호하는 이기적 성향을 갖게 될 수 있는 미래를 가정하고 있는 것이다. 물론 이러한 자연선택을 근원적 관점으로 채택한 것은 학습하고 성장해 적응력 뛰어난 기술로 부상하는 AI의 위상을 고려하면 의미가 있다. 이전의 사람이 사용할 때만 살아나는 비활성 도구로서의 기술 채택 모델에 내재된 한계에 대한 대응책이기 때문이다.

하지만 이러한 관점이 AI의 독립적인 주체성 부여에 있어서는 과도한 예상을 불러일으킴에도 주목해야 한다. 현재의 생성형 AI 플랫폼들에서는 인간에 보다 더 가까운 지능을 가진 AI 출현은 아직 멀었다는 견해를 확인할 수 있고, 자연선택이라는 관점은 인간을 실제보다 발달 과정에서 더 멀리 떨어진 존재로 인식케 하는 부작용도 있기 때문이다. 분명한 건 인간이 의도를 가지고 AI를 만들고 있으며, 우리 사회 시스템도 AI에 의해 재편되고 새롭게 형성되고 있다는 점이다.

브뤼노 라투르의 행위자 네트워크 이론(Actor-Network Theory)은 이를 조금 더 명확히 이해하는데 도움을 준다. 기존의 인간만을 주체성을 가진 행위자로 보는 것을 넘어 비인간 개체 즉 AI 또한 네트워크를 형성하고 영향을 주는 주체적 존재로 고려함으로 인해 이 두 핵심 행위자들의 상호의존적 관계를 확인할 수 있게 된다. 즉, ANT 관점이 제시하는 시사점은 우리가 AI와 공명하는 시스템을 개발할 때 견제와 균형을 염두에 두어야 한다는 점이다. AI의 자유로운 진화론적 발전을 주장하는 마크 안드레센의 테크노 낙관주의자 선언문에서와 같이 인류를 기술 개발의 수동적 수용자로 규정하는 위험에서 벗어날 수 있게 해주는 것이다.

레디 플레이어 원, 트론 등의 영화에서부터 오늘날의 메타버스에 대한 아이디어에 이르기까지 우리는 우리가 경험하는 모든 것이 디지털 공간에 있는 몰입형 환경에 얼마나 다채롭고 현실적으로 구현될 지에 대해 환호하며 이야기한다. 하지만 이 같은 기술의 미래에 대한 상상에서도 여전히 인간의 육체는 너무나 익숙해서 흥미롭지 않은 현실 속 방에 앉아 오로지 머리에 착용한 디바이스의 화면만을 응시하는 모습에 멈추곤 한다. 어쩌면 기술 발전에 대한 환호에 밀려 상대적으로 관심을 덜 받는 인간 육체가 놓여있는 환경, 상황에 대한 고려와 개선이 기술 기업들의 현실적 성공을 단단하게 뒷받침하는 또 하나의 기회의 영역일 수 있다. 인간과 기술 간의 상호의존성은 매우 명확하다. 아래로 향하며 자연선택되는 진화 중심의 관점에서 인간이 변화의 핵심 엔진이 되는 상향식 상호 의존적 관점으로의 전환이 필요해 보인다.

References

AI Fight Complicates TikTok, Universal Music Licensing Standoff

Statement on AI Risk

The Darwinian Argument for Worrying About AI⁠⁠⁠⁠⁠⁠⁠