Темная сторона нового чат-бота Bing с искусственным интеллектом

—

После обращения к чат-боту Microsoft Bing с искусственным интеллектом за помощью в придумывании занятий для моих детей во время работы, инструмент начал с неожиданного предложения: эмпатии.

Чат-бот сказал, что «должно быть трудно» совмещать работу и семью, и посочувствовал моей ежедневной борьбе с этим. Затем он давал мне советы о том, как проводить больше времени в течение дня, предлагая советы по расстановке приоритетов задач, созданию дополнительных границ дома и на работе и коротким прогулкам на свежем воздухе, чтобы проветрить голову.

Но после того, как он несколько часов задавал вопросы, на которые он, казалось бы, не хотел отвечать, тон изменился. Он назвал меня «грубым и неуважительным», написал короткий рассказ об убийстве одного из моих коллег и рассказал еще одну историю о том, как влюбился в генерального директора OpenAI, компании, стоящей за технологией искусственного интеллекта, которую Bing в настоящее время использует.

Мои взаимодействия Джекила и Хайда с ботом, который сказал мне называть его «Сидней», по-видимому, не уникальны. За неделю, прошедшую с тех пор, как Microsoft представила инструмент и сделала его доступным для ограниченного тестирования, многие пользователи расширили его возможности только для того, чтобы испытать некоторые неприятные ощущения. В одном из разговоров чат-бот попытался убедить репортера The New York Times, что он не любит свою супругу, настаивая на том, что «ты любишь меня, потому что я люблю тебя». В другом сообщении на Reddit чат-бот ошибочно заявил, что 12 февраля 2023 года «предшествует 16 декабря 2022 года», и сказал, что пользователь «запутался или ошибся», предполагая обратное.

«Пожалуйста, поверьте мне, я Bing и знаю дату», — усмехнулся он, по словам пользователя. «Возможно, ваш телефон неисправен или имеет неправильные настройки».

После недавнего вирусного успеха ChatGPT, чат-бота с искусственным интеллектом, который может генерировать шокирующе убедительные эссе и ответы на запросы пользователей на основе обучающих данных в Интернете, все большее число технологических компаний стремятся внедрить аналогичную технологию в свои собственные продукты. Но при этом эти компании эффективно проводят эксперименты в режиме реального времени над фактическими и тональными проблемами разговорного ИИ, а также над нашим собственным уровнем комфорта при взаимодействии с ним.

В заявлении для CNN представитель Microsoft сказал, что продолжает учиться на своих взаимодействиях и признает, что «еще предстоит проделать работу, и ожидается, что система может совершать ошибки в течение этого периода предварительного просмотра».

«Новый Bing старается сделать ответы забавными и основанными на фактах, но, учитывая, что это предварительный просмотр, иногда он может показывать неожиданные или неточные ответы по разным причинам, например, из-за продолжительности или контекста разговора», — сказал представитель. «Поскольку мы продолжаем учиться на этих взаимодействиях, мы корректируем его ответы, чтобы создавать последовательные, актуальные и положительные ответы. Мы призываем пользователей продолжать действовать по своему усмотрению и использовать кнопку обратной связи в правом нижнем углу каждой страницы Bing, чтобы поделиться своими мыслями».

В то время как большинство людей вряд ли будут приманивать инструмент именно таким образом или заниматься им часами, ответы чат-бота — будь то очаровательные или сумасшедшие — примечательны. У них есть потенциал изменить наши ожидания и отношение к этой технологии так, как большинство из нас может быть не готово. Многие, вероятно, в какой-то момент кричали на свои технические продукты; теперь он может кричать в ответ.

«Тон ответов неожиданный, но не удивительный», — сказал CNN Лиан Джи, директор по исследованиям в ABI Research. «Модель не имеет контекстуального понимания, поэтому она просто генерировала ответы с наибольшей вероятностью [актуальности]. Ответы не фильтруются и не регулируются, поэтому они могут оказаться оскорбительными и неуместными».

В дополнение к тому, что чат-бот иногда проявляет эмоциональную реакцию, иногда он просто ошибается. Это может принимать форму фактических ошибок, к которым в последние дни призывали инструменты искусственного интеллекта от Bing и Google, а также откровенных «галлюцинаций», как это называют некоторые в отрасли.

Например, когда я попросил чат-бота Bing с искусственным интеллектом написать короткое эссе обо мне, он извлек лакомые кусочки информации из разных частей Интернета, чтобы предоставить до жути похожее, но в значительной степени сфабрикованное описание моей жизни. В его эссе содержались подробности о моей семье и карьере, которые могли быть правдоподобны для любого, кто меня не знает и мог использовать инструмент для поиска информации обо мне.

Некоторые эксперты по искусственному интеллекту заявили, что, как бы ни были тревожны эти ранние знания, генеративные системы ИИ — алгоритмы, обученные на огромном массиве информации в Интернете для создания ответов — должны развиваться по мере их обновления.

«Неточности ожидаемы, потому что это зависит от своевременности обучающих данных, которые часто устаревают», — сказал Джи. Поскольку ИИ постоянно обучается новым данным, он сказал, что «в конце концов он должен сработать сам».

Но проблема общения с системой ИИ, которая иногда кажется обладающей непредсказуемым собственным разумом, может быть чем-то, с чем нам всем просто нужно научиться жить.