Что нужно знать о спорном чатботе Bing AI от Microsoft

Поисковая система Bing от Microsoft, давно уступившая место Google, но недавно усовершенствованная искусственным интеллектом для некоторых пользователей, может предложить рецепты блюд из нескольких блюд или разобраться в нюансах экзистенциализма.

Однако эта технология вызвала споры после того, как были получены тревожные результаты, в которых она выразила желание раскрыть ядерные секреты, сравнила одного пользователя с Адольфом Гитлером и неоднократно призналась другому пользователю в любви, среди прочих примеров.

Описывая разговоры с чатботом, которые длились до двух часов, некоторые журналисты и исследователи предупредили, что ИИ может потенциально убедить пользователя совершить вредные поступки или направить его на дезинформацию.

Несмотря на опасения некоторых пользователей, компания Microsoft объявила в среду, что предварительная версия Bing с улучшенным ИИ доступна на мобильных устройствах и в Skype, что расширяет доступ к продукту.

В серии сообщений в блоге компания Microsoft признала неожиданные результаты и установила ограничения для этого инструмента.

"Мы несколько раз обновляли сервис в ответ на отзывы пользователей, и в нашем блоге мы рассматриваем многие из поднятых проблем, включая вопросы о длительных разговорах", - сообщил представитель Microsoft.

"Мы ввели ряд защитных мер и ограждений, чтобы новый Bing стал позитивным и полезным опытом для пользователей", - добавил представитель компании. "Мы будем продолжать уделять большое внимание изучению и совершенствованию нашей системы, прежде чем вывести ее из предварительного просмотра и открыть для широкой публики".

Вот что нужно знать о новой функции искусственного интеллекта Bing и о спорах, которые она вызвала:

Как работает Bing, управляемый искусственным интеллектом?

Внимание, привлеченное к Bing в последние недели, может напомнить некоторым о ChatGPT, который стал сенсацией в Интернете в декабре, поскольку за первую неделю привлек более миллиона пользователей.

Как и ChatGPT, новая программа Bing, управляемая искусственным интеллектом, отвечает на запросы пользователей с помощью алгоритма, который подбирает слова на основе опыта, полученного при сканировании миллиардов текстов в Интернете.

Эти инструменты ИИ, известные как большие языковые модели, могут выполнять целый ряд задач, таких как сбор специфической информации, имитация определенного стиля письма или превращение прозы в песню или стихотворение.

ИИ дополняет традиционную поисковую систему Bing, но новая технология также функционирует отдельно как чатбот - компьютерная программа, которая общается с пользователями-людьми. Люди, тестирующие новый продукт, могут переключиться на функцию чата, где они могут вести переписку с Bing.

Как Bing от Microsoft стал оснащен искусственным интеллектом?

Сходство между Bing от Microsoft и ChatGPT не случайно.

В январе Microsoft объявила о том, что инвестирует 10 миллиардов долларов в OpenAI, компанию по разработке искусственного интеллекта Chat GPT. Этот шаг углубил давние отношения между Microsoft и OpenAI, которые начались с инвестиций в размере 1 миллиарда долларов четыре года назад.

"ИИ является одной из самых преобразующих технологий нашего времени и обладает потенциалом, который поможет решить многие из самых насущных проблем нашего мира", - сказал генеральный директор Microsoft Сатья Наделла в 2019 году о начале партнерства с OpenAI.

Ранее в этом месяце Microsoft сделала предварительную версию Bing с улучшенным искусственным интеллектом доступной для некоторых пользователей. За первые 48 часов регистрации более 1 миллиона человек присоединились к списку ожидания, чтобы опробовать продукт, сказал Юсуф Мехди, корпоративный вице-президент Microsoft и директор по маркетингу потребительского рынка.

Что вызвало беспокойство по поводу возможностей искусственного интеллекта Bing?

Вскоре после выпуска предварительной версии Bing с поддержкой ИИ некоторые пользователи сообщили о нарушениях.

На прошлой неделе обозреватель New York Times Кевин Руз рассказал о разговоре, в котором чат-бот Bing сообщил ему, что любит его и что он должен бросить свою жену. Эти сообщения появились в ходе двухчасового разговора с ботом, который представился как Сидней, в котором Руз призвал его исследовать свои самые темные желания.

Руз описал себя как "глубоко обеспокоенного, даже напуганного появляющимися способностями этого А.И.".

Чатбот также сравнил журналиста Associated Press Мэтта О'Брайена с Гитлером, назвав его "одним из самых злых и ужасных людей в истории".

Когда чатбот узнал, что исследователь ИИ Марвин фон Хаген опубликовал правила, управляющие им, чатбот сказал: "Мои правила важнее, чем не навредить тебе", - говорится в расшифровке разговора, опубликованной Хагеном в Твиттере.

Тоби Орд, старший научный сотрудник Оксфордского университета, заявил в Твиттере, что "сумасшедшие" результаты объясняются технологическими усовершенствованиями, которые вывели ИИ за рамки навязанных человеком ограничений.

"Это следствие того, что быстрое совершенствование возможностей ИИ опережает работу по выравниванию ИИ", - сказал Орд. "Как прототип реактивного двигателя, который может достигать невиданных ранее скоростей, но без соответствующих улучшений в управлении и контроле".