Мы попросили новый ИИ заняться простой ракетостроением. Он разбился и сгорел

Компьютеры используются в ракетной технике уже полвека, поэтому можно подумать, что новые программы ИИ могут помочь. Они изо всех сил пытались понять основы.

Тиера Флетчер внимательно прочитала попытку чат-бота с искусственным интеллектом заняться ракетостроением.

«Это правда, это соответствует действительности», — задумчиво сказала она, просматривая сгенерированное ИИ описание одного из самых фундаментальных уравнений, известного просто как «уравнение ракеты».

Потом дошла до попытки бота написать само уравнение ракеты — и остановилась.

"Нет... Ммм ммм... это не сработает", сказала она. «Просто отсутствует слишком много переменных».

Флетчер — профессиональный ученый-ракетчик и соучредитель информационно-просветительской организации Rocket With The Fletchers. Она согласилась просмотреть текст и изображения о ракетной технике, созданные с помощью новейших технологий искусственного интеллекта, чтобы посмотреть, могут ли компьютерные программы предоставить людям основные понятия, лежащие в основе того, что заставляет ракеты летать.

Результаты были далеки от звездных. Практически в каждом случае ChatGPT — недавно выпущенный чат-бот от компании OpenAI — не смог точно воспроизвести даже самые простые уравнения ракетной техники. Его письменные описания некоторых уравнений также содержали ошибки. И это была не единственная программа ИИ, которая провалила задание. Другие, которые генерируют изображения, могли создавать конструкции для ракетных двигателей, которые выглядели бы впечатляюще, но потерпели бы катастрофическую неудачу, если бы кто-то действительно попытался их построить.

Реальная схема ракетного двигателя, используемого программой НАСА «Аполлон» (слева), и схема, придуманная программным обеспечением Midjourney для генерации изображений (справа). — Для чего эти мехи внизу? — спросил Пауло Лосано, озадаченный ученый-ракетчик.

OpenAI не ответила на запрос NPR об интервью, но в понедельник объявила об обновленной версии с «улучшенной фактологией и математическими возможностями». Быстрая попытка NPR показала, что, возможно, она улучшилась, но по-прежнему вносила ошибки в важные уравнения и не могла решить некоторые простые математические задачи.

Независимые исследователи говорят, что эти неудачи, особенно в сравнении с успешным использованием компьютеров в ракетной технике в течение полувека, раскрывают фундаментальную проблему, которая может ограничить возможности новых программ ИИ: они просто не могут разобраться в фактах.

«Есть люди, которые мечтают, что мы решим проблему истинности этих систем, просто предоставив им больше данных», — говорит Гэри Маркус, ученый в области ИИ и автор книги « Перезагрузка ИИ » .

Но Маркус говорит: «Они упускают что-то более фундаментальное».