Эксперты по искусственному интеллекту о том, стоит ли "бояться" ChatGPT

ChatGPT - это искусственный интеллект, который пишет за вас любые тексты - письма, тексты песен, научные статьи, рецепты, сеансы терапии, стихи, эссе, конспекты, даже программный код. И несмотря на неуклюжее название (GPT означает Generative Pre-trained Transformer), в течение пяти дней после его запуска им пользовались более миллиона человек.

Компания Microsoft объявила, что встроит программу в Microsoft Word. Первые книги, написанные ChatGPT, уже опубликованы. (Ну, самоизданные, людьми.)

"Я думаю, это грандиозно", - сказал профессор Эрик Бринйолфссон, директор лаборатории цифровой экономики Стэнфордского университета. Я не удивлюсь, если через 50 лет люди оглянутся назад и скажут: "Вау, это был действительно эпохальный набор изобретений, который произошел в начале 2020-х годов".

"Большая часть экономики США - это работа со знаниями и информацией, и именно на них это повлияет самым непосредственным образом", - сказал он. "Я бы поставил таких людей, как юристы, на первое место в списке. Очевидно, что многие копирайтеры, сценаристы. Но мне нравится использовать слово "затронуты", а не "заменены", потому что я думаю, что если все будет сделано правильно, то не ИИ заменит юристов, а юристы, работающие с ИИ, заменят юристов, которые не работают с ИИ".

Но не все в восторге.

Тимнит Гебру, исследователь ИИ, специализирующийся на этике искусственного интеллекта, сказал: "Я думаю, что мы должны быть действительно в ужасе от всего этого".

ChatGPT научился писать, изучив миллионы произведений в Интернете. К сожалению, хотите верьте, хотите нет, но не все в Интернете - правда! "Его не учили понимать, что есть факт, что есть вымысел, или что-то в этом роде", - сказал Гебру. "Он будет просто пересказывать то, что есть в Интернете".

Кроме того, существует проблема преднамеренной дезинформации. Эксперты опасаются, что люди будут использовать ChatGPT, чтобы наводнить социальные сети фальшивыми статьями, звучащими профессионально, или завалить Конгресс "народными" письмами, звучащими достоверно.

Гебру сказал: "Мы должны понимать вред, прежде чем распространять что-то повсеместно, и смягчать риски, прежде чем выкладывать что-то подобное".

Некоторые студенты уже используют ChatGPT для списывания. Неудивительно, что ChatGPT называют "концом школьного английского", "концом эссе в колледже" и "возвращением рукописного эссе в классе".

Тот, кто использует ChatGPT, не обязан знать структуру, синтаксис, лексику, грамматику или даже правописание. Но Джейн Розенцвейг, директор Центра письма в Гарварде, говорит: "Меня также беспокоит часть, связанная с мышлением. Когда мы учим писать, мы учим людей исследовать идею, понимать, что другие люди сказали об этой идее, и выяснять, что они думают об этом. Машина может сделать ту часть, где она излагает идеи на бумаге, но она не может сделать ту часть, где она излагает ваши идеи на бумаге".

Школьные системы Сиэтла и Нью-Йорка запретили ChatGPT; так же поступили и некоторые колледжи. Розенцвейг сказал: "Идея о том, чтобы запретить его, противостоит чему-то большему, чем все мы, а именно: скоро он будет повсюду. Он будет в программах обработки текстов. Он будет на каждой машине".

Некоторые преподаватели пытаются понять, как работать с ChatGPT, чтобы позволить ему генерировать первые черновики. Но Розенцвейг возражает: "Наши ученики перестанут быть писателями, они станут редакторами".

"Моя первоначальная реакция на это была такой: "Мы делаем это потому, что существует ChatGPT? Или мы делаем это потому, что это лучше, чем другие вещи, которые мы уже делали?" - сказала она.

OpenAI, компания, запустившая программу, отклонила просьбы "Воскресного утра" об интервью, но сделала заявление:

"Мы не хотим, чтобы ChatGPT использовался в ложных целях - ни в школах, ни где-либо еще. Наша политика гласит, что при обмене контентом все пользователи должны четко указывать, что он создан искусственным интеллектом "таким образом, чтобы никто не мог разумно пропустить или неправильно понять", и мы уже разрабатываем инструмент, который поможет любому определить текст, созданный ChatGPT".

Они говорят об алгоритмическом "водяном знаке", невидимом флаге, встроенном в текст ChatGPT, который может определить его источник.

Студент из Принстона утверждает, что его новое приложение помогает учителям находить списывающих в ChatGPT

Существуют детекторы ChatGPT, но у них, вероятно, не будет шансов против новой версии ChatGPT 4, которая была обучена на 500 раз большем количестве письменных текстов. Те, кто видел эту версию, говорят, что она просто чудо.

Эрик Бринйолфссон из Стэнфорда сказал: "Один очень высокопоставленный человек в OpenAI описал это как смену фаз. Знаете, это как переход от воды к пару. Это просто совершенно другой уровень способностей".

Нравится вам это или нет, но ИИ-письмо пришло навсегда.

Бринйолфссон предлагает нам принять это: "Я думаю, что нас ждет потенциально лучшее десятилетие расцвета творчества, которое когда-либо было, потому что целая куча людей, гораздо больше людей, чем раньше, смогут внести свой вклад в наше коллективное искусство и науку".