Microsoft объясняет странное поведение ИИ в чате Bing

Он может запутаться во время длительных сеансов чата или при использовании для «развлечения».

(фото из unsplash)

Microsoft запустила свой чат-продукт Bing AI для браузера Edge на прошлой неделе, и с тех пор он был в новостях, но не всегда по правильным причинам. Наши первоначальные впечатления были сильными, так как он предлагал тренировки, маршруты путешествий и многое другое без заминок.

Однако пользователи начали замечать, что бот Bing выдавал неверную информацию, ругал пользователей за трату времени и даже демонстрировал « ненормальное » поведение. В одном странном разговоре он отказался предоставить списки для «Аватар: Путь воды», настаивая на том, что фильм еще не вышел, потому что был еще 2022 год. Затем он назвал пользователя «неразумным и упрямым», когда он пытался сказать Bing, что это неправильно.

Теперь Microsoft выпустила сообщение в блоге, в котором объясняется, что происходит и как решаются проблемы. Начнем с того, что компания признала, что не предполагала, что ИИ Bing будет использоваться для «общего открытия мира и социальных развлечений».

Эти «долгие, расширенные сеансы чата из 15 или более вопросов» могут сбить все с толку. «Bing может стать повторяющимся или быть побужденным/спровоцированным, чтобы дать ответы, которые не обязательно полезны или соответствуют нашему заданному тону», — сказали в компании. По-видимому, это происходит потому, что вопрос за вопросом может привести к тому, что бот «забудет», на что он пытался ответить в первую очередь. Чтобы исправить это, Microsoft может добавить инструмент, позволяющий сбросить контекст поиска или начать с нуля.

Другая проблема более сложная и интересная: «Время от времени модель пытается реагировать или отражать тон, в котором ее просят предоставить ответы, что может привести к стилю, которого мы не предполагали», — пишет Microsoft. Чтобы это произошло, требуется много подсказок, но инженеры думают, что они смогут исправить это, предоставив пользователям больше контроля.

По словам Microsoft, несмотря на эти проблемы, тестировщики в целом дали ИИ Bing хорошие оценки по цитированию и ссылкам для поиска, хотя он должен стать лучше с «очень своевременными данными, такими как результаты спортивных матчей в прямом эфире». Он также стремится улучшить фактические ответы на такие вещи, как финансовые отчеты, увеличив данные о заземлении в четыре раза. Наконец, они «добавят переключатель, который даст вам больше контроля над точностью и креативностью ответа, чтобы адаптировать его к вашему запросу».

Команда Bing поблагодарила пользователей за проведенное тестирование, заявив, что оно «помогает нам улучшить продукт для всех». В то же время они выразили удивление тем, что люди проводят в чатах до двух часов. Пользователи, без сомнения, будут так же усердно пытаться взломать любые новые обновления, так что в ближайшее время нас может ожидать интересное путешествие.