Чат-бот Google «Бард» уличили в откровенной лжи, или Ошибка стоимостью в 100 миллиардов долларов

Откровенную ложь выдал широко разрекламированный чат-бот Bard. Притом конфуз случился во время демонстрации специалистами «Гугл» возможностей собственного искусственного интеллекта в Париже.

Ошибку обнаружили профессионалы

В достоверность происшедшего остаётся лишь поверить, так как ошибку обнаружили не простые пользователи, а профессиональный астроном Брюс Макинтош и астрофизик Грант Тремблей. Они спросили у чат-бота, какими открытиями Джеймс Уэбб тот поделился бы с 9-летним ребёнком. Перечислил несколько вариантов, в том числе то, что Джеймс Уэбб был первым, кто сфотографировал все планеты за пределами Солнечной системы.

Вот это-то и было воспринято как откровенная ложь, так как на беду ИИ один из задававших каверзный вопрос оказался непосредственным участником событий и именно он ещё за 14 лет до публикации Джеймса Уэбба первым сфотографировал экзопланету с помощью очень большого телескопа. Понятно, что приписка открытия другому автору не осталась без внимания и сразу последовала негативная реакция.

Почему чат-ботам нельзя полностью доверять?

На фоне всеобщего ажиотажа вокруг ChatGPT, услугами которого уже пользуются свыше 100 миллионов людей на разных концах нашей планеты, происшедший инцидент можно было бы всего лишь назвать досадным случаем. Но на самом деле он великолепно продемонстрировал существующее несовершенство систем «разговорного» искусственного интеллекта.

При более глубоком анализе приходишь к выводу, что их научили «по-человечески» общаться. Бесспорно и то, что чат-боты быстро и уверенно отвечают на все задаваемые нами вопросы – этим они и привлекли повышенное внимание со стороны большинства пользователей. Но вот полностью доверять их ответам не стоит. В первую очередь, из-за проблем с достоверностью предоставляемой ими информации. Почему так происходит?

Когда в голове не только знания, но и мусор

Популярный бот-GPT и подобные ему системы запрограммированы на предоставление быстрого, а вовсе не проверенного факта. Изначально обучение нейросетевых систем проводится на огромной базе данных, накопленных в Интернете. Но на практике получается, что в «юные головы» ИИ закладывается всё подряд, т.е. наряду с достоверной информацией и данные с публикаций на страницах сайтов с непроверенными и ненадёжными умозаключениями.

Любой из нас не понаслышке знает, сколько подобного хлама можно обнаружить на просторах Всемирной паутины. А теперь просто представляете, сколько подобного мусора заложено в память чат-ботов, притом наравне с полезной информацией.

Беда всех систем, созданных на основе искусственных интеллектов, в том, что они буквально всё, что узнают в Интернете, воспринимают как достоверную информацию. Поэтому многие аналитики отмечают, что они способны уверенно распространять даже откровенный фейк. К сожалению, разработчики не научили их перепроверять данные перед выдачей ответа пользователям. Вот почему не нужно слепо доверять всем ответам ChatGPT и ему подобных систем.

Что делать и как быть?

Перед разработчиками систем с искусственным интеллектом возникла неожиданная и довольно сложная в техническом решении проблема. Однако устранить обнаруженный дефект следует в срочном порядке. Если всё оставить, как есть, то получается, что любой ответ чат-бота пользователям придётся проверять из других источников. Но в таком случае вообще теряется смысл их применения в повседневной жизни. Разве что использовать их можно будет для написания фантастических рассказов, где не такие строгие требования к достоверности излагаемой информации и в целом выдуманной истории.

Ещё более важным аргументом в пользу быстрого решения проблемы являются угрозы финансовых потерь для компаний-разработчиков. Неудачная реализация проектов после миллиардных вложений, затраченных на разработку и внедрение систем, в конечном итоге может выйти боком. Кстати, косвенное подтверждение этому уже есть. Происшедший в Париже конфуз во время демонстрации чат-бота сразу же привёл к падению стоимости акций Alphabet Inc., материнской компании Google, на 8 процентов, или иначе «Гугл» из-за неудачного старта потерял более 100 млрд долларов. И это цена всего одной ошибки!

Габдинур МАВЛОВИЛОВ.

ФОТО: Яндекс Картинки.