Благодаря своей сверхъестественной способности имитировать человеческий язык и рассуждения ChatGPT , кажется, знаменует собой революцию в области искусственного интеллекта. Ловкий чат-бот может сочинять стихи и эссе, делиться рецептами, переводить языки, давать советы и рассказывать анекдоты, среди бесчисленных приложений, которые пользователи тестировали с тех пор, как исследовательская лаборатория Силиконовой долины OpenAI выпустила инструмент для обработки естественного языка в ноябре.
Вместе с волнением приходит и некоторая тревога — что технология может испортить подлинное человеческое письмо и критическое мышление, перевернуть индустрию и усилить наши собственные предубеждения и предубеждения.
Для тех, кто работает в области искусственного интеллекта, ChatGPT — это не просто сенсация за одну ночь, а знак достижения после многих лет экспериментов, — говорит доцент кафедры компьютерных наук Университета Джона Хопкинса Дэниел Хашаби, который специализируется на обработке языков и работал над аналогичными инструментами.
«ChatGPT может показаться внезапной революцией, возникшей из ниоткуда», — говорит он. «Но эта технология развивалась постепенно в течение многих лет, и в последние несколько лет она стремительно развивалась».
Тем не менее, Хашаби признает беспрецедентную эру, которую ChatGPT, кажется, инициирует, наполненную потенциалом для человеческого прогресса. «Это действительно наш шанс пересмотреть наше понимание того, что значит быть умным», — говорит он. «Это захватывающее время, потому что у нас есть шанс работать над новыми задачами и новыми горизонтами, которые раньше казались недосягаемыми».
Поскольку Microsoft инвестирует в этот инструмент, OpenAI выпускает платную версию, а Google планирует выпустить своего собственного экспериментального чат-бота, Hub связался с Хашаби, чтобы узнать о технологии и о том, куда она движется.
Можете ли вы объяснить, как работает ChatGPT?
На первом этапе не используется прямая человеческая обратная связь. Модель изучает структуру языка, извергая огромные объемы текста из Интернета — например, предложения и абзацы из Википедии, Твиттера, Reddit, The New York Times и т. д. на самых разных языках. Он также обучен кодам, написанным программистами с таких платформ, как GitHub.
На втором этапе [обычно называемом обучением с самоконтролем] люди-аннотаторы участвуют в обучении модели, чтобы она стала более сложной. Они пишут ответы на различные типы запросов, которые получает ChatGPT, поэтому модель учится выполнять задачи из таких команд, как «написать эссе на эту тему» или «пересмотреть этот абзац».
Поскольку OpenAI сидит на золотой жиле, они могут позволить себе нанять много аннотаторов и заставить их аннотировать большое количество высококачественных данных. Я слышал из виноградных лоз, что первоначальная система получила около 100 000 отзывов от людей. Так что за этим стоит много человеческого труда.
Но секретным оружием OpenAI является не технология искусственного интеллекта, а люди, пользующиеся его услугами. Каждый раз, когда кто-то запрашивает их систему, он собирает эти запросы, чтобы ChatGPT адаптировался к тому, что ищут пользователи, и выявлял слабые места их систем. Другими словами, успех OpenAI заключался в том, что миллионы людей использовали его демоверсию.
Как вы лично экспериментировали с ChatGPT?
Это может быть отличным инструментом для письма и мозгового штурма. Я могу написать краткое изложение идеи, которую я имею в виду, попросить ChatGPT расширить ее более изощренно, затем выбрать понравившиеся результаты и развить их самостоятельно или продолжить использовать ChatGPT. Это совместное письмо человека и машины. Как метко заметил кто-то в Твиттере: «ChatGPT — это электровелосипед для вашего мозга!»
Что вы думаете о всеобщем внимании и прессе, которые он получает?
Это еще одна веха в развитии ИИ, которую стоит отметить. Удивительно, что искусственный интеллект и обработка естественного языка все ближе помогают людям решать задачи, которые им небезразличны.
Тем не менее, я беспокоюсь о преувеличении состояния ИИ. Прогресс был достигнут, но " общая разведка " все еще не на горизонте. За последние несколько десятилетий мы постоянно пересматривали наши представления о том, что значит быть «умными», каждый раз, когда мы прогрессируем. В 1960-х и 1970-х нашей целью было создание системы, позволяющей играть в шахматы против человека. Таких примеров много. Каждый раз, когда мы прогрессируем, мы думаем: «Вот оно!» Но через некоторое время шумиха умирает, и мы видим проблемы и выявляем новые потребности.
«Интеллект» всегда был движущейся стойкой и, вероятно, останется таковой, но я воодушевлен прогрессом, который я вижу в устранении недостатков систем, подобных ChatGPT.
Что это за недостатки?
ChatGPT легко придумывает вещи. Если вы спросите ChatGPT о чем-то, чего он раньше не видел, он будет галлюцинировать факты беглым и аргументированным языком. Например, если вы попросите его определить «На каком турнире Винус Уильямс выиграла свой восьмой турнир Большого шлема?» это станет для вас ответом, даже несмотря на то, что Винус Уильямс выиграла семь турниров Большого шлема. Она хотела выиграть свою восьмую, как сообщали многие СМИ, но не смогла. И модель смешивает два понятия «хотел выиграть» и «выиграл».
И проблема в том, что он делает это так бегло. Это может дать вам ерунду, но на таком плавном, связном языке, что — если вы не являетесь экспертом в этой области — вы можете поверить в то, что он говорит правду. Это беспокоит меня, и я думаю, что мы, люди, легковерны перед лицом, казалось бы, четко сформулированных выводов.
С другой стороны, что интересного в ChatGPT?
Теперь у нас есть эти инструменты, которые могут генерировать творческий и беглый язык, задача, на решение которой мы потратили годы. Как ученый в области ИИ я с нетерпением жду следующих шагов, и у нас есть новые проблемы, которые ИИ должен решить.
Меня меньше волнует цель ИИ — перепроектировать человеческий интеллект — и больше IA, или усиление интеллекта. Я думаю, что стоит использовать ИИ, чтобы люди могли делать что-то лучше и расширять человеческие возможности. Я в восторге от таких систем совместной работы.
Как вы видите развитие технологий?
Мы все еще находимся в середине этого изменения, но мы продолжим делать языковые модели более эффективными, что приведет к гораздо более компактным, но высококачественным моделям. Следовательно, мы повсюду будем свидетелями очень надежных форм диалоговых агентов. Будущие модели станут вашими помощниками в веб-навигации, выполняя различные повседневные веб-задачи, которые мы делаем сами сегодня.
Тот же набор технологий начинает проникать и в физический мир. Текущие модели, такие как ChatGPT, не воспринимают свое окружение. Например, они не видят, где мой телефон или насколько я устал. Скоро мы увидим ChatGPT глазами. Эти модели будут использовать разные модальности данных (текстовые, визуальные, слуховые и т. д.), которые необходимы им для ежедневного обслуживания.
Это приведет к созданию роботов с самоконтролем на основе данных об их физической среде, включая физические объекты, людей и их взаимодействия. Воздействие здесь будет огромным. Менее чем через 10 лет любой физический прибор, который мы используем ежедневно, — автомобиль, холодильник, стиральная машина и т. д. — станет средством общения, с которым вы будете разговаривать. Мы также увидим роботов, которые невероятно сильны в решении проблем, которые сегодня невозможны. Представьте, что вы собираетесь поговорить со своим Roomba о вещах, которые вы хотели бы делать или не делать так, как вы общаетесь с ChatGPT.
Также важно не упускать из виду, как эти технологии изменят ситуацию на уровне общества. Будущие мультимодальные модели — ChatGPT с глазами и ушами — будут повсюду и повлияют на все, включая общественную безопасность. Но теперь возникает проблема: в обществе, где за нами постоянно наблюдают модели ИИ, у которых есть глаза и уши и которые постоянно становятся лучше, чем больше они стремятся, как будут выглядеть наша свобода и неприкосновенность частной жизни?
Это похоже на антиутопическое общество, описанное в знаменитом романе «1984». Как и любая другая технология, модели с самоконтролем — это палка о двух концах. Лучшее, что мы можем сделать сейчас, — это сохранять бдительность, предвидеть и обсуждать такие проблемы до того, как появятся заявки. В идеале нам нужно разработать фреймворки, обеспечивающие нашу свободу и равенство, путем экстраполяции таких примеров, как ChatGPT, на его будущие расширения. Я оптимистичен, что мы будем.
