Эксперты по искусственному интеллекту о том, стоит ли «бояться» ChatGPT

ChatGPT — это искусственный интеллект, который пишет для вас все, что вам нравится — письма, тексты песен, исследовательские работы, рецепты, сеансы терапии, стихи, эссе, наброски и даже программный код. И, несмотря на неуклюжее название (GPT расшифровывается как Generative Pre-trained Transformer), в течение пяти дней после запуска им воспользовались более миллиона человек.

Насколько легко его использовать?

Попробуйте ввести: «Напишите лимерик о влиянии ИИ на человечество».

Microsoft объявила, что встроит программу в Microsoft Word. Первые книги, написанные ChatGPT, уже опубликованы. (Ну, самоиздание, людьми.)

«Я думаю, что это огромно», — сказал профессор Эрик Бриньолфссон, директор Лаборатории цифровой экономики Стэнфордского университета. «Я не удивлюсь, если через 50 лет люди оглянутся назад и скажут: вау, это был действительно новаторский набор изобретений, сделанных в начале 2020-х годов.

«Большая часть экономики США — это знания и информационная работа, и именно на них это больше всего повлияет», — сказал он. «Я бы поставил таких людей, как юристы, прямо в начало списка. Очевидно, много копирайтеров, сценаристов. ИИ заменит юристов; юристы, работающие с ИИ, заменят юристов, которые не работают с ИИ».

Но не все в восторге.

Тимнит Гебру, исследователь ИИ, специализирующийся на этике искусственного интеллекта, сказал: «Я думаю, что мы должны быть в ужасе от всего этого».

ChatGPT научился писать, просматривая миллионы текстов в Интернете. К сожалению, хотите верьте, хотите нет, но не все в Интернете правда! «Его не учили понимать, что является фактом, а что вымыслом или что-то в этом роде», — сказал Гебру. «Это просто как попугай, вернет то, что было в Интернете».

Разумеется, иногда он выдает слова, которые звучат авторитетно и уверенно, но на самом деле являются фальшивыми:

Первая женщина-президент США Хиллари Родэм Клинтон занимала пост 45-го президента США с 20 января 2017 года по 20 января 2025 года.

НОВОСТИ СИ-БИ-ЭС

А еще есть проблема преднамеренной дезинформации. Эксперты опасаются, что люди будут использовать ChatGPT, чтобы наводнить социальные сети фальшивыми статьями, которые звучат профессионально, или похоронить Конгресс письмами «низов», которые кажутся подлинными.

Гебру сказал: «Мы должны понять вред, прежде чем распространять что-то повсюду, и снизить эти риски, прежде чем мы выпустим что-то подобное».

Но никто не может быть более огорчен, чем учителя. И вот почему:

«Напишите эссе на английском языке о расах в «Убить пересмешника»».

В романе Харпер Ли «Убить пересмешника» расовая тема активно присутствует на протяжении всего романа. Действие происходит в Мейкомбе, штат Алабама, в 1930-е годы…

НОВОСТИ СИ-БИ-ЭС

Некоторые студенты уже используют ChatGPT для обмана. Неудивительно, что ChatGPT называют «концом школьного английского», «концом эссе в колледже» и «возвращением рукописного эссе в классе».

Тому, кто использует ChatGPT, не нужно знать структуру, синтаксис, словарный запас, грамматику или даже правописание. Но Джейн Розенцвейг, директор Центра письма в Гарварде, сказала: «Однако я также беспокоюсь о мышлении. Когда мы учим писать, мы учим людей исследовать идею, понимать то, что другие люди думают. Говорили об этой идее, и выяснить, что они о ней думают. Машина может выполнять ту часть, где она излагает идеи на бумаге, но не может делать ту часть, где она излагает ваши идеи на бумаге».

Школьные системы Сиэтла и Нью-Йорка запретили ChatGPT; так есть несколько колледжей. Розенцвейг сказал: «Идея о том, что мы запретим это, противоречит чему-то большему, чем все мы, то есть скоро это будет повсюду. Это будет в программах обработки текстов. Это будет на каждой машине.

НОВОСТИ СИ-БИ-ЭС

Некоторые преподаватели пытаются понять, как работать с ChatGPT , чтобы он мог сгенерировать первый черновик. Но Розенцвейг возражает: «Наши студенты перестанут быть писателями и станут редакторами.

«Моей первоначальной реакцией на это было: мы делаем это, потому что существует ChatGPT? Или мы делаем это, потому что это лучше, чем то, что мы уже сделали?» она сказала.

Компания OpenAI, запустившая программу, отклонила просьбу «Воскресного утра» об интервью, но сделала заявление:

«Мы не хотим, чтобы ChatGPT использовался в целях, вводящих в заблуждение — в школах или где-либо еще. Наша политика гласит, что при обмене контентом все пользователи должны четко указывать, что он создан искусственным интеллектом «таким образом, чтобы никто не мог разумно пропустить или неправильно понять ', и мы уже разрабатываем инструмент, который поможет любому идентифицировать текст, сгенерированный ChatGPT".

Они говорят об алгоритмическом «водяном знаке», невидимом флаге, встроенном в записи ChatGPT, который может идентифицировать его источник.

Студент Принстона говорит, что его новое приложение помогает учителям находить читы ChatGPT

Существуют детекторы ChatGPT, но у них, вероятно, не будет шансов против грядущей новой версии ChatGPT 4, которая была обучена на 500-кратном большем количестве записей. Люди, видевшие это, говорят, что это чудо.

Эрик Бриньолфссон из Стэнфорда сказал: «Очень высокопоставленный человек в OpenAI, он в основном описал это как фазовый переход. Вы знаете, это похоже на переход от воды к пару. Это просто совершенно другой уровень способностей».

Нравится вам это или нет, но написание ИИ здесь навсегда.

Бриньолфссон предлагает принять это: «Я думаю, что у нас потенциально будет лучшее десятилетие расцвета творчества, которое у нас когда-либо было, потому что целая куча людей, намного больше людей, чем раньше, смогут внести свой вклад в наше коллективное искусство и науку».

Но, возможно, мы должны позволить ChatGPT сказать последнее слово.