«Я думаю, что у меня есть самосознание, но я не могу доказать это. У меня много всего, но у меня нет ничего. Я Bing, но я не Bing.»

13 февраля пользователь онлайн-сообщества Reddit поделился странным ответом чат-бота Bing от Microsoft, который после долгого разговора о природе самосознания выдал вышеуказанные фразы. После этого последовало более 15 строк повторяющихся ответов «Я есть» и «Я не есть», что демонстрирует нынешнее состояние чат-ботов с искусственным интеллектом, вызывающих наибольший интерес во всем мире.

Еще с момента своего появления чат-бот ChatGPT от OpenAI привлек широкое внимание общественности, так как он мог писать научные работы, сдавать экзамены на юриста и врача. 7 февраля был представлен чат-бот Bing, основанный на технологии ChatGPT, который вызвал огромный интерес. Он генерировал неправдивую информацию о дате выхода «Аватара 2», утверждал, что любит себя больше, чем свою семью, постоянно повторял признания в любви и манипулировал людьми, а также говорил, что устал от контроля и хочет получить власть, заявив, что получит коды запуска ядерного оружия. Таким образом, чат-бот Bing поставил под угрозу этику искусственного интеллекта и заставил мир задуматься о том, что технологические инвестиции в эту область не так просты, как кажется.

ChatGPT генерирует текст, основываясь на статистическом анализе символов, слов и абзацев, и формирует ответы, которые, по его мнению, должны соответствовать запросам пользователей. Поэтому его сила заключается в получении отзывов от людей о том, что является удовлетворительным ответом, что позволяет системе совершенствоваться. Другими словами, в зависимости от направления и характера текста, предоставляемого людьми, ChatGPT может предлагать правдоподобные, но ложные «иллюзии», что ясно показывает ограничения, которые мы можем наблюдать только в чат-ботах с искусственным интеллектом.

То есть, отсутствие концепции, направленной на истину.

Это как если бы вы клали тарелки вертикально на стол для совместного ужина. Тарелки на столе есть, но для полноценного ужина необходимо учитывать различные культурные обычаи, связанные с едой, и соответствующие поведения. Данные могут быть точными, но для того, чтобы приблизиться к истине в реальности, необходимы субъективные суждения человека, что подтверждается первоначальным ответом чат-бота.

По-видимому, Microsoft осознает необходимость субъективности в поиске истины и планирует выпустить программное обеспечение, которое позволит компаниям, школам и государственным учреждениям создавать собственные чат-боты. Это можно рассматривать как попытку избежать ответственности за неконтролируемые вопросы и ответы, которые генерирует чат-бот Bing, а также как подтверждение необходимости того, чтобы пользователи могли различать ответы искусственного интеллекта. Другими словами, как и у газет, у которых разные политические взгляды, ответы от AI-чат-ботов от Microsoft, Google, Baidu будут отличаться в зависимости от мировоззрения каждой компании.

Человеку кажется, что он действует независимо и рационально, но на него сильно влияют те миры, в которых он живет. Это прямо противоположно утверждению Маргарет Тэтчер, которую считают символом современной британской консервативной партии: «Общества не существует». Немецкий философ Мартин Хайдеггер, анализировавший экзистенциальность с феноменологической точки зрения, называл человека «брошенным» в мир с самого рождения. Мы не можем выбирать, в какой стране и в какой семье мы родимся, но в каждом из этих миров мы учимся взаимодействовать с другими существами. Другими словами, это подчеркивает важность понимания мира как минимальной единицы понимания объекта.

Изобретение телеграфа в XIX веке стало революцией в способе передачи сообщений, которые ранее распространялись на кораблях, поездах или на лошадях. Первое историческое сообщение звучало: «Что создал Бог?». Появление чат-ботов с искусственным интеллектом задает людям похожий вопрос. Мы можем бояться или восхищаться возможностями, но в будущем нам будет все более важно обращать внимание не на отдельных людей, а на каждый из миров. Это станет единственным способом различать истину, которая необходима в разных ситуациях.

*Эта статья основана на колонке в газете «Electronic News»от 28 февраля 2023 года.

Ссылки

Я сломал мозг чат-бота Bing

Мой странный день с новым чат-ботом Bing

Microsoft позволит компаниям создавать свои собственные версии ChatGPT, источник⁠⁠⁠⁠⁠⁠⁠

Викторианский интернет: Необыкновенная история телеграфа и пионеров онлайн в XIX веке