На прошлой неделе UMG (Universal Music Group) удалила весь свой музыкальный каталог с TikTok после завершения лицензионного соглашения с платформой и неудачных переговоров о его продлении. В результате удаления музыки многих артистов, таких как Тейлор Свифт и Дрейк, видео пользователей с этими песнями стали показываться с отключенным звуком, а создатели контента больше не могут добавлять эти треки в свои новые видеоролики. UMG объяснила свое решение тем, что платформа коротких видео фактически спонсирует замену артистов искусственным интеллектом, поскольку на ней полно записей, созданных ИИ, и она поощряет создание музыки с помощью ИИ. UMG также заявила, что TikTok практически не предпринимает усилий по борьбе с обилием контента, нарушающего авторские права, а также с ненавистническими высказываниями, предрассудками и травлей.

С точки зрения широкой публики ИИ — это одновременно и новая технология, и технология нового типа. Это первый случай, когда технология способна учиться и обладает потенциалом для самостоятельного развития, превосходящего возможности создателей. Однако ускоренное воплощение потенциала ИИ в реальность означает, что нам срочно нужно спрогнозировать, что ждет человечество в будущем. И нужно обратить внимание на то, что в текущих глобальных проблемах, затрагивающих всю экосистему ИИ, таких как недавнее завершение переговоров о продлении лицензионного соглашения между UMG и TikTok, неудавшаяся попытка переворота в Open AI в прошлом году, план Илона Маска по созданию TruthGPT, чаще всего упоминаются такие слова, как противостояние, война, выживание человечества.

Другими словами, мы можем заметить, что в качестве неявной основы для представления будущего технологий мы используем доминирующий каркас, заложенный 165 лет назад Чарльзом Дарвином в его теории эволюции.

Дарвиновский подход к эволюции ярко проявляется в манифесте некоммерческой организации The Center for AI Safety, расположенной в Сан-Франциско. Организация отмечает, что снижение риска вымирания, вызванного ИИ, должно стать глобальным приоритетом того же масштаба, что и борьба с пандемией или ядерной войной. В манифесте предполагается, что в будущем самый влиятельный ИИ, возникший в результате естественного отбора, может иметь эгоистичную склонность, отдающую предпочтение своим собственным целям в ущерб безопасности человечества. Конечно, принятие естественного отбора в качестве исходной точки имеет смысл, учитывая статус ИИ как технологии, которая обучается, развивается и становится все более адаптивной. Это способ реагировать на ограничения, присущие модели использования технологии как неактивного инструмента, живущего лишь тогда, когда им пользуется человек.

Однако стоит обратить внимание на то, что такая точка зрения может вызывать чрезмерные ожидания в отношении приобретения ИИ независимой личности. В текущих генеративных платформах ИИ мы можем наблюдать мнения о том, что появление ИИ, обладающего интеллектом, более схожим с человеческим, еще далеко. Кроме того, точка зрения с позиции естественного отбора несет в себе побочный эффект, заставляющий воспринимать человека более отдаленным в процессе развития, чем он есть на самом деле. Несомненно, человек создает ИИ с определенными целями, а система нашего общества перестраивается и формируется заново с учетом ИИ.

Теория акторно-сетевых отношений (Actor-Network Theory), разработанная Бруно Латуром, помогает немного лучше понять этот процесс. Она выходит за рамки традиционного восприятия только человека как субъекта с собственной личностью и рассматривает нечеловеческие сущности, в частности ИИ, как субъекты, взаимодействующие в сети и оказывающие влияние на нее. Это позволяет увидеть взаимозависимые отношения между этими двумя ключевыми субъектами. Иными словами, АНТ подчеркивает, что при разработке систем, созвучных с ИИ, необходимо помнить о сохранении равновесия и сдерживания. Это помогает избежать рисков, свойственных технологическому оптимизму Марка Андрессена, который отстаивает свободную эволюцию ИИ и рассматривает человечество как пассивного приемника технологических разработок.

От фильмов «Первому игроку приготовиться» и «Трон» до современных идей метавселенной мы с энтузиазмом рассказываем о том, насколько ярко и реалистично все, что мы испытываем, может быть воплощено в погружающую среду в цифровом пространстве. Однако в этих фантазиях о будущем технологий человеческое тело все еще слишком привычно и неинтересно, оставаясь запертым в комнате реальности и устремляя взор только на экран устройства, надетого на голову. Возможно, именно недостаточное внимание к окружающей среде и ситуации, в которой находится человеческое тело, отставшее в гонке технологического прогресса, является еще одной областью возможностей для реального успеха технологических компаний. Взаимозависимость между человеком и технологиями крайне очевидна. Необходим переход от централизованной точки зрения на эволюцию с нисходящим вектором, основанной на естественном отборе, к восходящей взаимозависимой точке зрения, в которой человек становится ключевым движущим фактором изменений.

Ссылки

Спор о ИИ усложняет ситуацию с лицензированием TikTok и Universal Music

Заявление о риске ИИ

Дарвиновский аргумент в пользу тревоги по поводу ИИ⁠⁠⁠⁠⁠⁠⁠