«Яндекс» официально запустил нейросеть «Балабоба», дописывающую любой текст

17 июня «Яндекс» открыл доступ к генератору текстов «Балабоба» на основе языковой модели YaLM (Yet another Language Model). Пользователям соцсетей уже удалось опробовать сервис в начале июня, тогда ещё под названием «Зелибоба» — компания объясняла, что случайно опубликовала демо-версию раньше времени.

После запуска «Балабоба» не сильно отличается от демо: это всё ещё нейросеть, вдохновленная алгоритмом GPT-3 от компании Open AI, которая дописывает текст за пользователем. Можно выбрать разные стили вроде теорий заговоров, тостов или пацанских цитат. Нейросеть обучали на индексируемых «Яндексом» страницах, включая «Википедию», новостные статьи и записи пользователей в соцсетях. Заложенные внутри YaLM параметры меняются в зависимости от того, правильно или неправильно предсказывалось слово.

Разработчики обращают внимание, что главная особенность YaLM — умение учиться новому всего на нескольких примерах: чтобы языковая модель написала осмысленные отзывы на фильмы или теории заговора, ей хватит от пяти до нескольких десятков примеров того, как такие тексты надо писать. Тест TJ показал, что генератор действительно зачастую создаёт довольно осмысленные фразы.

Пользователи соцсетей принялись тестировать «Балабобу» и обнаружили новую деталь — при запуске сервис показывает предупреждение: «Нейросеть не знает, что говорит, и может сказать всякое — если что, не обижайтесь. Распространяя получившиеся тексты, помните об ответственности». А при попытке сгенерировать фразы про Владимира Путина или Алексея Навального появляется ответ: «Генератор не принимает запросы на острые и чувствительные темывроде политики или религии».

Создатель телеграм-канала «Технологии, медиа и общество» Андрей Бродецкий отметил, что порой сервис отказывается создавать тексты даже просто с именами Владимир и Алексей. Редактор TJ с такой проблемой не столкнулся, но убедился, что под действие фильтра попадают и намёки.

Например, продолжить гимн России не получится.

В то же время порой нейросеть ошибочно принимает нейтральные темы за чувствительные. А при тесте редактором TJ внезапно наоборот заговорила про Гитлера.

Такой фильтр в сервисе «Яндекса» нельзя назвать новым: например, голосового помощника Алису нельзя спросить, как она относится к Путину или Навальному.