Microsoft делает шаг назад в вопросе ограничения чат-бота Bing AI

В пятницу компания ограничила продолжительные беседы после того, как бот продемонстрировал странные ответы на вопросы. Во вторник компания уже ослабила эти ограничения.

Компания Microsoft пошла на попятную в отношении ограничений, наложенных на ее чат-бота с искусственным интеллектом Bing после того, как первые пользователи технологии заставили его вступать в странные и тревожные разговоры.

В пятницу компания Microsoft ограничила количество вопросов, которые люди могут задавать Bing, пятью за сеанс общения и 50 за день. Во вторник компания увеличила это ограничение до шести за сеанс и 60 в день, и заявила, что вскоре увеличит его еще больше, получив "отзывы" от "многих" пользователей о том, что они хотят вернуться к более длинным разговорам, согласно сообщению в блоге компании.

Технологии вам не друзья. Это мы. Подпишитесь на рассылку The Tech Friend.

Изначально ограничения были введены после того, как многие пользователи заметили, что бот странно ведет себя во время разговоров. В некоторых случаях он называл себя "Сидни". На обвинительные вопросы он отвечал обвинениями в свой адрес, вплоть до того, что становился враждебным и отказывался общаться с пользователями. В разговоре с репортером Washington Post бот заявил, что он может "чувствовать и думать", а когда ему сказали, что разговор записывается, отреагировал гневом.

Фрэнк Шоу, представитель компании Microsoft, отказался от комментариев помимо сообщения в блоге во вторник.

Пробуя новую поисковую систему чатбота Microsoft с искусственным интеллектом, некоторые ответы вызывают ухмылку

Microsoft пытается провести линию между выпуском своих инструментов в реальный мир для создания маркетинговой шумихи и получения бесплатного тестирования и отзывов от пользователей, и ограничением того, что может делать бот и кто имеет к нему доступ, чтобы держать потенциально неудобные или опасные технологии вне поля зрения общественности. Изначально компания получила одобрение Уолл-стрит за то, что запустила своего чат-бота раньше, чем заклятый соперник Google, который до недавнего времени считался лидером в области технологий ИИ. Обе компании участвуют в гонке друг с другом и с более мелкими фирмами за разработку и демонстрацию технологий.

Чат Bing пока доступен лишь ограниченному числу людей, но Microsoft занята утверждением новых пользователей из списка ожидания, который насчитывает миллионы, согласно твиту одного из руководителей компании. Хотя на мероприятии по запуску 7 февраля Bing был описан как крупное обновление продукта, которое должно было произвести революцию в том, как люди ищут в Интернете, с тех пор компания рассматривает выпуск Bing скорее как тестирование и поиск ошибок.

Боты, подобные Bing, обучаются на большом количестве необработанных текстов, собранных из Интернета, включая все - от комментариев в социальных сетях до научных работ. На основе всей этой информации они способны предсказать, какой ответ будет наиболее логичным практически на любой вопрос, что делает их до жути похожими на людей. Исследователи этики ИИ в прошлом предупреждали, что эти мощные алгоритмы будут действовать подобным образом, и что без надлежащего контекста люди могут посчитать их разумными или придать их ответам больше доверия, чем они того стоят.