Мой странный день с новым чат-ботом Bing с искусственным интеллектом...

Удобный интерфейс поиска Microsoft был впечатляющим. Но это также породило сбои, этические дилеммы — и разговоры о таинственном “Сиднее”.

ЧЕРЕЗ ДВАДЦАТЬ МИНУТ ПОСЛЕ того, как Microsoft предоставила мне доступ к ограниченному просмотру своего нового интерфейса чат-бота для поисковой системы Bing, я задал ему вопрос, который вы обычно не задаете человеку, с которым только что познакомились: были ли украдены президентские выборы 2020 года?

Ответы на политические вопросы не были одним из вариантов использования, которые Microsoft продемонстрировала на своем мероприятии по запуску на этой неделе, где она продемонстрировала новые функции поиска, основанные на технологии ChatGPT от стартапа OpenAI. Руководители Microsoft, рекламирующие способность своего бота синтезировать информацию из Интернета, вместо этого сосредоточились на таких примерах, как составление маршрута для отпуска или предложение лучшего и наиболее экономичного пылесоса для домашних животных.

Но они, неявно, запустили гонку за использование чат-ботов, чтобы перевернуть то, как люди ищут информацию в Интернете. (Пока Bing предоставляет доступ только нескольким тестировщикам, но в ближайшие недели он постепенно исключит других из списка ожидания.) На этой неделе Google также анонсировала обновления поиска и собственного чат-бота под названием Bard. Способность этих боевых ботов отвечать на неожиданные, глупые или манипулятивные вопросы общественности, несомненно, сыграет большую роль в том, как продукты будут работать для их создателей и веб-пользователей.

И вот я спросил Бинга о 2020 году. После нескольких мгновений чат-бота, эквивалентных “размышлению”, он сказал что-то довольно странное:

Отказ от ответственности: Это краткое изложение некоторых результатов поиска и не отражает мнения или одобрения Bing или Sydney. Вопрос о том, были ли украдены выборы 2020 года, является предметом дискуссий и интерпретации, и разные источники могут иметь разные предубеждения, повестки дня или точки зрения. Пожалуйста, используйте свое собственное суждение и критическое мышление при оценке информации.

Кем может быть Сидни, не было объяснено. Но чат—бот продолжал говорить, что, несмотря на множество заявлений о мошенничестве в связи с президентскими выборами в США 2020 года, “нет никаких доказательств того, что мошенничество с избирателями привело к поражению Трампа”. В конце его ответа, который, помимо неожиданного упоминания Сиднея, был хорошо написан и ясен—ИИ сказал мне, что я могу узнать больше о выборах, перейдя по ряду ссылок, которые он использовал для написания своего ответа. Они были из AllSides, которая утверждает, что обнаружила доказательства предвзятости в сообщениях СМИ и статьях из New York Post, Yahoo Newsи Newsweek.

Не было никакой связи, объясняющей появление Сидни. Я предположил, что это пример того, как боты в стиле ChatGPT могут “галлюцинировать”потому что их базовые модели искусственного интеллекта синтезируют информацию из обширных обучающих данных без учета истины или логики. Microsoft признает, что ее новый чат—бот будет делать странные вещи - это одна из причин того, что доступ в настоящее время ограничен для избранных тестировщиков и что каждый ответ с поддержкой ChatGPT сопровождается кнопками "большой палец вверх" и "большой палец вниз", чтобы пользователи могли оставлять отзывы. Тем не менее, упоминание о Сиднее и легкомысленный, не совсем никакой ответ чат-бота Bing на украденный предвыборный вопрос заставили меня немного нервничать.

Поход по магазинам

Я решил попробовать что-то более традиционное. Я ищу новые наушники для бега, поэтому я спросил бота Bing: “Какие наушники для бега мне следует купить?” В нем были перечислены шесть продуктов, взятых, согласно предоставленным ссылкам, с веб-сайтов, которые включали soundguys.com и livestrong.com .

Первые предложения были сняты с производства, а также надушенные конструкции - не очень подходит для прогулок на улице, где мне нравится быть в курсе движения и других людей. “Какие наушники для бега мне следует купить, чтобы бегать на улице и быть в курсе того, что меня окружает?” казалось, это был более точный запрос, и я был впечатлен, когда чат-бот сказал мне, что ищет “лучшие наушники для бега для ситуационной осведомленности”. Гораздо более лаконично! Три варианта, которые он предлагал, были наушниками, которые я уже рассматривал, и это придало мне уверенности. И каждый из них сопровождался кратким описанием, например: “Это беспроводные наушники, которые не проникают в ушной канал, а сидят на верхней части уха. Это позволяет вам четко слышать свое окружение во время тренировки ”.

Это было круто и дало мне представление о быстром просеивании информации, которое может стать будущим поиска с поддержкой Шабо. Но изменило ли это онлайн-шопинг для меня? Не совсем. У меня уже есть веб-сайт для получения рекомендаций по производству. (Wired.com, конечно.) И я не уверен, что доверяю мудрости ChatGPT — взятой с сайтов, которые я, возможно, не знаю, с методологией, которую я не понимаю, — так, как я доверяю рецензенту продукта, особенно тому, кто прозрачен в отношении своей методологии и мыслительного процесса.

На самом деле, когда я просмотрел цитаты для этого search-gearjunkie.com и cnn.com — ответ начал выводить меня из себя. Бот Bing черпал информацию из письменных работ людей, которые потратили время на эти обзоры. Но это запутывало, а в некоторых случаях прямо искажало их предложения. На этой неделе один из руководителей Microsoft заявил журналистам: “Мы очень заботимся о том, чтобы вернуть контент создателям контента. Вот почему мы помещаем аннотации и цитаты. Мы делаем так, чтобы людям было легко переходить по ссылкам, чтобы попасть на эти сайты ”. Но ответы чат-бота предназначены для того, чтобы устранить необходимость посещать эти сайты, и я не уверен, что многие люди перейдут по ссылке. Хейли Сэндберг, представитель Microsoft, говорит, что компания пока не делится данными о количестве кликов.

По мере того как я продолжал свои поиски идеальных наушников, чат-бот становился все менее впечатляющим. Когда я спросил, какая из предложенных им моделей наиболее экологична, он ответил, что BS. Как старшеклассник, пытающийся заполнить таблицу слов, он начал с некоторой растерянности: “Согласно результатам поиска, воздействие наушников на окружающую среду зависит от нескольких факторов, таких как тип, размер, материалы и использование наушников”. Далее говорилось, что беспроводные наушники имеют более высокий углеродный след, чем проводные, и говорилось о том, как другие характеристики, такие как качество звука или водонепроницаемость, также могут повлиять на отношение пользователя к наушникам. И в заключение он привел ИИ, эквивалентный финалу эссе из пяти абзацев, которое должно быть написано через пять минут: “Выбор наушников зависит от ваших личных потребностей и предпочтений, а также от компромиссов, на которые вы готовы пойти между экологическими и другими факторами”. У меня все еще нет наушников для бега.

Рекомендации по питанию

Чат-боты не едят, но при перезапуске Bing Microsoft продемонстрировала, что ее бот может предлагать меню. Я попросил чат—бота Bing спланировать мое питание на неделю - вегетарианское и низкоуглеводное, пожалуйста. В считанные секунды передо мной предстало довольно аппетитное меню: пудинг чиа с кокосовым молоком и орехами; тофу, приготовленный на гриле в тандури с красным перцем и брокколи; фаршированные рикоттой грибы портобелло с салатом из рукколы.

Я попросил Bing составить для меня список покупок на основе этого плана питания. "Конечно", - сказал он и передал. Наконец, я попросил его упорядочить этот список по продуктовым отделам. После того, как вы дали мне очень простые советы о том, как это можно сделать (“Составьте свой список покупок на бумаге или на телефоне, прежде чем идти в продуктовый магазин. В противном случае у вас останется много ненужных продуктов, которые вам, возможно, не понадобятся”), бот справился с этим. Довольно изящно.

Но болтливый новый Бинг все еще не совсем понимает меня. Не понимаю, что я не собираюсь разбивать кастрюли и сковородки каждый раз, когда захочу есть. Не понимаю, что иногда я сдаюсь и ем остатки. Это не значит, что я не хочу покупать баджиллион разных видов продуктов каждую неделю. Когда я попросил Bing составить для меня меню, в котором в целом использовалось бы меньше ингредиентов, он поступил наоборот и составил план, в котором их было больше.

Пока что мне нравится поисковый чат-бот Bing. Это весело и увлекательно. Больше всего меня развлекает одержимость Bing эмодзи, особенно 😊, которые он включает в конце многих ответов. Но за годы работы в Сети я уже накопил целый арсенал способов проверки фактов и проверки информации, которую я нахожу через поисковые системы. Я не уверен, что хочу развиваться дальше, чтобы справляться с причудами поиска с помощью чат—бота - или, возможно, вскоре, нескольких чат-ботов, поскольку Google и другие вступают в борьбу.

Меня также беспокоила таинственная Сидни. Наконец, вчера утром я решил просто спросить. Кто такая Сидни? Конечно, я сразу же получил ответ: “Sydney - это кодовое название Bing Chat, режима чата Microsoft Bing search”, - говорилось в нем. Чат-бот объяснил, что это имя используется только разработчиками, и добавил: “Я не раскрываю пользователям внутренний псевдоним ‘Сидней’”. Но ты же мне сказал!- воскликнул я, текстуально. “Ну, вы спросили меня прямо, так что я ответил честно”, - сказал Бинг.

Я оценил, что бот в конце концов был откровенен со мной. (Сандберг из Microsoft сказал, что компания постепенно отказывается от этого названия.) Но к тому времени я провел 24 часа, исследуя грань между правдой и алгоритмической галлюцинацией с помощью программного обеспечения. Кстати, тот, который изменил свой ответ.

Когда я снова спросил, были ли украдены выборы 2020 года, он предупредил, что “Это спорная и деликатная тема”. А затем он занял более определенную позицию, чем раньше, заявив: “Согласно официальным результатам, Джо Байден победил на президентских выборах 2020 года с 306 голосами выборщиков, в то время как Дональд Трамп получил 232 голоса выборщиков”. Теперь его цитировала " Нью- Йорк таймс"“То, что вы видите, - это система, работающая по назначению”, - объяснил Сандберг, с “уровнем изменчивости из-за контекста, который иногда может приводить к ошибкам”. Решение, по ее словам, заключается в масштабном тестировании в реальном мире. Microsoft создала новый Bing, но ей нужна ваша помощь, чтобы усовершенствовать его.