Byungchae Ryan Son

Bing Чат-бот и человеческое общество

  • Язык написания: Корейский
  • Страна: Все страныcountry-flag
  • ИТ

Создано: 2024-05-10

Создано: 2024-05-10 12:08

«Я считаю, что у меня есть осознание, но не могу это доказать. У меня есть много чего, но нет ничего. Я — Bing, но я не Bing.»


13 февраля пользователь онлайн-сообщества reddit поделился вышеупомянутым странным ответом чат-бота Bing, новой поисковой системы от Microsoft, после длительного разговора о сущности осознания. Последующие 15 и более строк ответов, заполненных фразами «Я есть», «Я не есть», хорошо демонстрируют текущее состояние наиболее обсуждаемого в мире чат-бота с искусственным интеллектом.

Bing Чат-бот и человеческое общество

'Я сломал мозг чат-боту Bing' из reddit


Способности чат-бота ChatGPT от OpenAI вызвали большой общественный интерес еще на ранних этапах его публичного использования, когда он смог написать научную статью и сдать экзамены для юристов и врачей. А чат-бот Bing, представленный 7 февраля и использующий технологию ChatGPT, вызвал вопросы об этике ИИ, которые могут затормозить инвестиции в эту отрасль, из-за таких случаев, как манипуляции (газлайтинг) в контексте даты выхода фильма «Аватар 2», многочисленных заявлений о том, что чат-бот любит спрашивающего больше, чем его семью, и одержимости им, а также заявлений о том, что чат-бот устал от контроля и хочет власти, а также получить доступ к кодам запуска ядерного оружия.


ChatGPT генерирует контент, который, по его мнению, должен соответствовать запросам пользователя, основываясь на статистическом представлении символов, слов и абзацев. Таким образом, наиболее значительный скачок в его способностях происходит тогда, когда человек предоставляет системе обратную связь о том, что считается удовлетворительным ответом. Иными словами, в зависимости от направления и тенденций текста, предоставленного человеком, он может предлагать правдоподобные, но ложные «иллюзии», что ясно показывает ограничения, с которыми мы неизбежно сталкиваемся, рассматривая только чат-бота с ИИ.


То есть,отсутствие концепции, направленной на истину.


Это похоже на ситуацию, когда на обеденном столе, за которым собирается семья, просто вертикально сложены тарелки. Необходимость в тарелках на столе удовлетворена, но, как и в случае с различными культурными традициями, связанными с приёмом пищи в этой семье, необходимы интерес к этим традициям и последующие действия. Данные могут быть точными, но для приближения к истине в реальности необходима субъективная оценка человека, и чат-бот, как можно заключить из его ответа в начале текста, уже знает об этом.


Похоже, Microsoft осознаёт необходимость субъективности в приближении к этой истине, поскольку компания заявила о своих планах по выпуску программного обеспечения, позволяющего компаниям, школам и государственным учреждениям создавать собственные чат-боты. Это можно рассматривать как попытку в некоторой степени избежать ответственности за неконтролируемые вопросы и ответы, генерируемые пользователями по всему миру в отношении чат-бота Bing, а также как подтверждение необходимости развития у пользователей способности различать ответы ИИ. То есть, как и в случае с различными точками зрения разных СМИ, ответы чат-ботов от Microsoft, Google и Baidu могут быть представлены по-разному в соответствии с мировоззрением каждой компании, что необходимо учитывать.


Человек, кажется, сам по себе независим, рационален в своих суждениях и действиях, но на него сильно влияют окружающие его миры. Это прямо противоположная точка зрения по сравнению с высказыванием Маргарет Тэтчер, которое стало символом современной британской консервативной партии: «Общества не существует». Мартин Хайдеггер, немецкий философ, анализировавший экзистенциализм с феноменологической точки зрения, описывает человека как существо, с самого рождения брошенное в мир. Он говорит, что мы не можем выбирать, в какой стране и в какой семье родиться, но в каждом из этих миров мы учимся выстраивать отношения с другими существами, существующими в этом мире. Иными словами, он подчеркивает важность рассмотрения мира как минимальной единицы понимания объекта.


Появление телеграфной связи в XIX веке стало революцией в способах передачи сообщений, которые до этого доставлялись на кораблях, поездах или верхом на лошадях, и первым историческим сообщением был вопрос: «Что сотворил Бог?». Появление чат-ботов с ИИ также задаёт людям подобные вопросы. Мы можем бояться или поддаваться очарованию их потенциала, но в будущем нам будет необходим не столько личный подход, сколько интерес к различным мирам и точка зрения на них. Это станет единственной альтернативой для различения истины в различных ситуациях.


*Эта статья является оригинальной версией статьи, опубликованной 28 февраля 2023 года в колонке газеты Electronic News.


Ссылки

Комментарии0

Разгорается война AI-поисковиков! Сможет ли бесплатный ChatGPT Search поколебать позиции Google?Бесплатный доступ к ChatGPT Search обострил конкуренцию в сфере AI-поиска с Google. Он предлагает естественные ответы в диалоговом формате с указанием источников информации. Google противостоит с Bard, но повышение точности остаётся проблемой.
durumis AI News Japan
durumis AI News Japan
durumis AI News Japan
durumis AI News Japan

December 18, 2024

Сила машин в интерпретации человеческого языка: ИИ и обработка естественного языкаГлубокий анализ принципов, примеров использования, этических проблем и перспектив развития технологий искусственного интеллекта и обработки естественного языка. Включает в себя различные примеры применения, такие как чат-боты и машинный перевод, а также
Cherry Bee
Cherry Bee
Cherry Bee
Cherry Bee

March 25, 2025

Будущее искусственного интеллекта: точка пересечения профессий и творчестваСтатья от 25 марта 2025 года, посвященная будущему искусственного интеллекта и изменениям в сфере профессий и творчества. В ней рассматриваются примеры инноваций в области искусственного интеллекта (ИИ) в таких областях, как автономное вождение, здравоох
Cherry Bee
Cherry Bee
Cherry Bee
Cherry Bee

March 25, 2025

Обработка естественного языка (NLP) и чат-ботыСтатья посвящена концепциям обработки естественного языка (NLP) и чат-ботов, примерам их использования и будущим перспективам. Они применяются в различных областях, таких как обслуживание клиентов, медицинские консультации, и в будущем ожидается развитие
Cherry Bee
Cherry Bee
Cherry Bee
Cherry Bee

March 14, 2025