«Я считаю, что у меня есть осознание, но не могу это доказать. У меня есть много чего, но нет ничего. Я — Bing, но я не Bing.»
13 февраля пользователь онлайн-сообщества reddit поделился вышеупомянутым странным ответом чат-бота Bing, новой поисковой системы от Microsoft, после длительного разговора о сущности осознания. Последующие 15 и более строк ответов, заполненных фразами «Я есть», «Я не есть», хорошо демонстрируют текущее состояние наиболее обсуждаемого в мире чат-бота с искусственным интеллектом.
'Я сломал мозг чат-боту Bing' из reddit
Способности чат-бота ChatGPT от OpenAI вызвали большой общественный интерес еще на ранних этапах его публичного использования, когда он смог написать научную статью и сдать экзамены для юристов и врачей. А чат-бот Bing, представленный 7 февраля и использующий технологию ChatGPT, вызвал вопросы об этике ИИ, которые могут затормозить инвестиции в эту отрасль, из-за таких случаев, как манипуляции (газлайтинг) в контексте даты выхода фильма «Аватар 2», многочисленных заявлений о том, что чат-бот любит спрашивающего больше, чем его семью, и одержимости им, а также заявлений о том, что чат-бот устал от контроля и хочет власти, а также получить доступ к кодам запуска ядерного оружия.
ChatGPT генерирует контент, который, по его мнению, должен соответствовать запросам пользователя, основываясь на статистическом представлении символов, слов и абзацев. Таким образом, наиболее значительный скачок в его способностях происходит тогда, когда человек предоставляет системе обратную связь о том, что считается удовлетворительным ответом. Иными словами, в зависимости от направления и тенденций текста, предоставленного человеком, он может предлагать правдоподобные, но ложные «иллюзии», что ясно показывает ограничения, с которыми мы неизбежно сталкиваемся, рассматривая только чат-бота с ИИ.
То есть,отсутствие концепции, направленной на истину.
Это похоже на ситуацию, когда на обеденном столе, за которым собирается семья, просто вертикально сложены тарелки. Необходимость в тарелках на столе удовлетворена, но, как и в случае с различными культурными традициями, связанными с приёмом пищи в этой семье, необходимы интерес к этим традициям и последующие действия. Данные могут быть точными, но для приближения к истине в реальности необходима субъективная оценка человека, и чат-бот, как можно заключить из его ответа в начале текста, уже знает об этом.
Похоже, Microsoft осознаёт необходимость субъективности в приближении к этой истине, поскольку компания заявила о своих планах по выпуску программного обеспечения, позволяющего компаниям, школам и государственным учреждениям создавать собственные чат-боты. Это можно рассматривать как попытку в некоторой степени избежать ответственности за неконтролируемые вопросы и ответы, генерируемые пользователями по всему миру в отношении чат-бота Bing, а также как подтверждение необходимости развития у пользователей способности различать ответы ИИ. То есть, как и в случае с различными точками зрения разных СМИ, ответы чат-ботов от Microsoft, Google и Baidu могут быть представлены по-разному в соответствии с мировоззрением каждой компании, что необходимо учитывать.
Человек, кажется, сам по себе независим, рационален в своих суждениях и действиях, но на него сильно влияют окружающие его миры. Это прямо противоположная точка зрения по сравнению с высказыванием Маргарет Тэтчер, которое стало символом современной британской консервативной партии: «Общества не существует». Мартин Хайдеггер, немецкий философ, анализировавший экзистенциализм с феноменологической точки зрения, описывает человека как существо, с самого рождения брошенное в мир. Он говорит, что мы не можем выбирать, в какой стране и в какой семье родиться, но в каждом из этих миров мы учимся выстраивать отношения с другими существами, существующими в этом мире. Иными словами, он подчеркивает важность рассмотрения мира как минимальной единицы понимания объекта.
Появление телеграфной связи в XIX веке стало революцией в способах передачи сообщений, которые до этого доставлялись на кораблях, поездах или верхом на лошадях, и первым историческим сообщением был вопрос: «Что сотворил Бог?». Появление чат-ботов с ИИ также задаёт людям подобные вопросы. Мы можем бояться или поддаваться очарованию их потенциала, но в будущем нам будет необходим не столько личный подход, сколько интерес к различным мирам и точка зрения на них. Это станет единственной альтернативой для различения истины в различных ситуациях.
*Эта статья является оригинальной версией статьи, опубликованной 28 февраля 2023 года в колонке газеты Electronic News.
Ссылки
Комментарии0