Студенты обращаются к ChatGPT за помощью в выполнении домашних заданий. Преподаватели неоднозначно относятся к этому инструменту и другим генеративным ИИ.
ГЛЕНН ХАРВЕЙ
Кэтрин Хьюлик
12 АПРЕЛЯ 2023 ГОДА В 7:00 УТРА
"Нам нужно поговорить", - сказал Бретт Фогельсингер. Студент только что попросил дать ему отзыв на эссе. Один абзац выделялся. Фогельсингер, учитель английского языка девятого класса в Дойлстауне, штат Пенсильвания, понял, что ученик написал сочинение не сам. Он использовал ChatGPT.
Этот инструмент искусственного интеллекта, бесплатно предоставленный в конце прошлого года компанией OpenAI, может отвечать на простые запросы и создавать эссе и рассказы. Он также может писать код.
В течение недели у него было более миллиона пользователей. На начало 2023 года Microsoft планировала инвестировать в OpenAI 10 миллиардов долларов, а стоимость OpenAI оценивалась в 29 миллиардов долларов, что более чем в два раза больше, чем в 2021 году.
Неудивительно, что другие технологические компании спешат выпустить конкурирующие инструменты. Anthropic, компания ИИ, основанная бывшими сотрудниками OpenAI, тестирует новый чат-бот под названием Claude. Google запустил Bard в начале февраля, а китайская поисковая компания Baidu выпустила Ernie Bot в марте.
Многие люди используют ChatGPT из любопытства или для развлечения. Я попросил его придумать глупую отговорку для невыполнения домашнего задания в стиле средневековой прокламации. Менее чем за секунду он предложил мне: "Харк! Слугу твоего осадила орда озорных лепреконов, которые украли мое перо и пергамент, из-за чего я не смог выполнить домашнее задание".
Но студенты могут использовать его и для списывания. ChatGPT знаменует собой начало новой волны ИИ, волны, которая может разрушить систему образования.
Когда в конце 2022 года студенческая газета Стэнфордского университета провела опрос среди студентов университета, 17 процентов заявили, что использовали ChatGPT при выполнении заданий или сдаче экзаменов. Некоторые признались, что выдавали написанное чатботом за свое собственное. Пока что этим и другим студентам, вероятно, все сходит с рук. Это потому, что ChatGPT часто отлично справляется со своей работой.
"Он может превзойти многих детей среднего школьного возраста", - говорит Фогельсингер. Он мог бы и не знать, что его ученик использовал эту программу, если бы не одно но: "Он скопировал и вставил подсказку".
Сочинение было еще в процессе работы, поэтому Фогельсингер не счел это списыванием. Вместо этого он увидел возможность. Теперь студент и ИИ работают вместе. ChatGPT помогает студенту развивать навыки письма и исследования.
"Мы используем цветовое кодирование, - говорит Фогельсингер. Части, которые пишет студент, выделены зеленым цветом. Части из ChatGPT - синим. Фогельсингер помогает ученику выбрать несколько предложений из ИИ, чтобы расширить их, и позволяет другим ученикам также сотрудничать с этим инструментом. Большинство не обращаются к нему регулярно, но нескольким детям он очень нравится. Фогельсингер считает, что этот инструмент помог им сфокусировать свои идеи и начать работу.
У этой истории был счастливый конец. Но во многих школах и университетах преподаватели борются с тем, как обращаться с ChatGPT и другими инструментами искусственного интеллекта.
В начале января государственные школы Нью-Йорка запретили ChatGPT на своих устройствах и в сетях. Педагоги были обеспокоены тем, что ученики, обратившиеся к этому инструменту, не научатся критически мыслить и решать проблемы. Они также опасались, что ответы, которые дает этот инструмент, могут быть неточными или небезопасными. Многие другие школьные системы в США и по всему миру ввели подобные запреты.
Кит Шварц, преподаватель информатики в Стэнфорде, заявил, что он "вернулся к экзаменам с карандашом и бумагой", поэтому ученики не могут пользоваться ChatGPT, сообщает Stanford Daily.
Тем не менее, ChatGPT и ему подобные могут стать отличной услугой для всех учащихся. Подобно калькуляторам для математики или Google для фактов, ИИ может значительно ускорить процесс написания текста, который часто требует времени и усилий. С помощью этих инструментов любой человек может создавать хорошо сформированные предложения и абзацы. Как это может изменить то, как мы преподаем и учимся?
Кто что сказал?
При необходимости ChatGPT может подготовить ответы, которые звучат удивительно похоже на ответы ученика. Мы попросили учеников средней и старшей школы со всей страны - всех участников нашей образовательной программы Science News Learning - ответить на несколько основных научных вопросов в двух предложениях или меньше. Примеры, приведенные в статье, сравнивают ответы учеников с ответами ChatGPT, когда их попросили ответить на вопрос на том же уровне знаний.
иллюстрация электрической схемы
Какое влияние оказывают парниковые газы на Землю?
Агнес Б.| 11 класс, Международная школа Харбор Сити, штат Миннесота.
Парниковые газы эффективно удерживают тепло от рассеивания из атмосферы, увеличивая количество тепла, которое остается около Земли в тропосфере.
ЧатГПТ
Парниковые газы задерживают тепло в атмосфере Земли, вызывая потепление планеты и приводя к изменению климата и связанным с ним последствиям, таким как повышение уровня моря, более частые экстремальные погодные явления и изменения в экосистемах.
Хорошее, плохое и странное в ChatGPT
ChatGPT поразил своих пользователей. "Он намного реалистичнее, чем я думала, может быть робот", - говорит Авани Рао, второклассница средней школы в Калифорнии. Она не использовала бота для выполнения домашнего задания. Но для развлечения она просила его говорить креативные или глупые вещи. Например, она попросила его объяснить сложение голосом злого злодея.
Учитывая то, насколько хорошо он работает, существует множество способов, с помощью которых ChatGPT может выровнять условия для студентов и других людей, изучающих второй язык или испытывающих трудности с составлением предложений. Поскольку ChatGPT генерирует новый, оригинальный материал, его текст технически не является плагиатом.
Студенты могут использовать ChatGPT как наставника, чтобы улучшить свои навыки письма и грамматики, или даже для объяснения тем, которые кажутся им сложными. "Это действительно поможет вам в обучении", - говорит Фогельсингер, к которому пришел один студент, обрадованный тем, что ChatGPT четко изложил концепцию из курса естественных наук.
Преподаватели могут использовать ChatGPT для составления планов уроков, мероприятий или оценок - возможно, даже персонализированных для удовлетворения потребностей или целей конкретных учеников.
Сяомин Чжай, эксперт в области естественно-научного образования в Университете Джорджии в Афинах, протестировал ChatGPT, чтобы проверить, сможет ли он написать научную работу. Он был впечатлен тем, насколько легко было обобщать знания и создавать хорошие письменные работы с помощью этого инструмента. "Это действительно потрясающе", - говорит он.
Все это звучит замечательно, но на самом деле существуют большие проблемы. Что самое тревожное, ChatGPT и другие подобные инструменты могут часто ошибаться. Они не извлекают факты из баз данных. Скорее, их обучают генерировать новый текст, который звучит естественно. Они переделывают язык, не понимая его, что может привести к вопиющим ошибкам.
В начале этого года новостной сайт CNET попал под огонь за использование искусственного интеллекта для создания десятков статей, многие из которых были наполнены ошибками. В ранней рекламе чат-бота Bard он допустил фактическую ошибку в отношении космического телескопа Джеймса Вебба, неверно заявив, что тот сделал первую фотографию экзопланеты. А в беседе, опубликованной в Twitter, ChatGPT заявил, что самым быстрым морским млекопитающим является сапсан. Сокол, конечно же, птица и не живет в океане.
ChatGPT "уверенно ошибается", - говорит Кейси Фислер, эксперт по этике технологий из Университета Колорадо в Боулдере. "Есть ошибки и плохая информация". Она сняла несколько видеороликов на TikTok о подводных камнях ChatGPT.
Большинство данных об обучении ChatGPT получены до сентября 2021 года, и он не указывает источники информации. Если его спрашивают об источниках, он их выдумывает, показал Фислер в одном из видео. Чжай, который рассматривает этот инструмент как помощника, обнаружил то же самое. Когда он попросил ChatGPT привести цитаты, он выдал ему источники, которые выглядели правильными. Но на самом деле их не существовало.
Дайте определение термину биоразнообразие.
Данте А. | 10 класс, средняя школа Clark Magnet High School, Калифорния.
Биоразнообразие означает разнообразие живых видов и экосистем, существующих в определенном регионе или на планете в целом. Оно включает в себя различные гены, виды и экосистемы, составляющие мир природы, и взаимоотношения между ними.
ЧатГПТ
Биоразнообразие относится к разнообразию живых организмов, населяющих Землю, и экосистем, которые они образуют. Оно включает в себя разнообразие видов, генов и экосистем и важно для поддержания природного баланса и сохранения жизни на нашей планете.
Как работает ChatGPT
Ошибки ChatGPT имеют смысл, если вы знаете, как он работает. "Он не рассуждает. У него нет идей. У него нет мыслей", - объясняет Эмили М. Бендер, вычислительный лингвист из Университета Вашингтона в Сиэтле.
ChatGPT был разработан с использованием по крайней мере двух типов машинного обучения. Основной тип - это большая языковая модель, основанная на искусственной нейронной сети. Вдохновленная тем, как взаимодействуют нейроны в мозге, эта вычислительная архитектура находит статистические закономерности в огромных объемах данных.
Языковая модель учится предсказывать, какие слова будут следующими в предложении или фразе, просматривая огромное количество текста. Она помещает слова и фразы на многомерную карту, которая отображает их взаимосвязь друг с другом. Слова, которые обычно встречаются вместе, как арахисовое масло и желе, оказываются ближе друг к другу на этой карте.
Размер искусственной нейронной сети измеряется в параметрах. Эти внутренние значения настраиваются по мере обучения модели. В 2020 году OpenAI выпустила GPT-3. На тот момент это была самая большая языковая модель в истории, содержащая 175 миллиардов параметров. Она обучалась на текстах из Интернета, а также на оцифрованных книгах и научных журналах. Учебный текст также включал расшифровки диалогов, эссе, экзамены и многое другое, говорит Саша Луччиони, исследователь из Монреаля в компании Hugging Face, которая занимается созданием инструментов искусственного интеллекта.
OpenAI усовершенствовала GPT-3 для создания GPT-3.5. В начале 2022 года компания выпустила доработанную версию GPT-3.5 под названием InstructGPT. На этот раз OpenAI добавила новый тип машинного обучения. Он называется "обучение с подкреплением и человеческой обратной связью" и предусматривает участие людей в процессе обучения. Эти работники проверяют результаты работы ИИ. Ответы, которые нравятся людям, вознаграждаются. Обратная связь с людьми также может помочь уменьшить количество обидных, предвзятых или неуместных ответов. Эта тонко настроенная языковая модель используется в свободно распространяемом ChatGPT. С марта платные пользователи получают ответы, основанные на более совершенной языковой модели GPT-4.
Во время разработки ChatGPT OpenAI добавил в модель дополнительные правила безопасности. Она будет отказываться отвечать на некоторые деликатные вопросы или предоставлять вредную информацию. Но этот шаг поднимает еще один вопрос: Чьи ценности запрограммированы в боте, включая то, о чем ему разрешено - или не разрешено - говорить?
OpenAI не сообщает точных подробностей о том, как она разрабатывала и обучала ChatGPT. Компания не опубликовала свой код или данные обучения. Это разочаровывает Лучиони, потому что это означает, что инструмент не может воспользоваться перспективами более широкого сообщества ИИ. "Я бы хотела знать, как он работает, чтобы понять, как сделать его лучше", - говорит она.
Когда компанию OpenAI попросили прокомментировать эту историю, она предоставила заявление от неназванного представителя. "Мы сделали ChatGPT доступным в качестве исследовательского предварительного просмотра, чтобы получить опыт реального использования, что, по нашему мнению, является важной частью разработки и развертывания способных, безопасных систем ИИ", - говорится в заявлении. "Мы постоянно учитываем отзывы и полученные уроки". Действительно, некоторые экспериментаторы заставили бота говорить предвзятые или неуместные вещи, несмотря на правила безопасности. OpenAI вносит исправления в инструмент по мере возникновения таких проблем.
ChatGPT - это не готовый продукт. OpenAI нужны данные из реального мира. Люди, которые используют его, являются подопытными кроликами. Бендер отмечает: "Вы работаете на OpenAI бесплатно".
Что такое черные дыры и где они находятся?
Алтея К. | 11 класс, средняя школа Ваймеа, Гавайи
Черная дыра - это место в космосе, где гравитация настолько сильна, что ничто, даже свет, не может выйти наружу.
ChatGPT
Черные дыры - это чрезвычайно плотные области в космосе, где гравитация настолько сильна, что даже свет не может выйти наружу, и они встречаются по всей Вселенной.
Академическая успеваемость ChatGPT
Насколько хорош ChatGPT в академической среде? Кэтрин Гао, врач и медицинский исследователь из Медицинской школы Файнберга Северо-Западного университета в Чикаго, входит в группу исследователей, которые проверяют этот инструмент на практике.
Гао и ее коллеги собрали 50 настоящих аннотаций научных статей из медицинских журналов, а затем, указав названия статей и названия журналов, попросили ChatGPT сгенерировать 50 поддельных аннотаций. Команда попросила людей, знакомых с чтением и написанием подобных исследовательских работ, определить, какие из них являются таковыми.
"Я был удивлен тем, насколько реалистичными и убедительными были сгенерированные аннотации, - говорит Гао. Рецензенты приняли примерно одну треть аннотаций, сгенерированных ИИ, за аннотации, сгенерированные человеком".
В другом исследовании Уилл Йедон и его коллеги проверили, смогут ли инструменты ИИ сдать экзамен в колледже. Йедон, преподаватель физики в Даремском университете в Англии, выбрал экзамен из курса, который он преподает. В тесте студентам предлагается написать пять коротких эссе о физике и ее истории. Средний балл студентов составил 71 процент, что, по его словам, эквивалентно пятерке в США.
Йедон использовал инструмент davinci-003, близкий родственник ChatGPT. Он сгенерировал 10 наборов экзаменационных ответов. Затем Йедон и еще четыре преподавателя оценили ответы, используя свои типичные стандарты. ИИ также набрал в среднем 71 процент. Однако, в отличие от студентов-людей, у него не было ни очень низких, ни очень высоких оценок. Он постоянно писал хорошо, но не отлично. По словам Йедона, для студентов, регулярно получающих плохие оценки за письменные работы, он "напишет эссе лучше, чем вы".
Эти оценщики знали, что перед ними работа ИИ. В последующем исследовании Йедон планирует использовать работы ИИ и учеников и не сообщать оценщикам, чьи это работы.
Что такое тепло?
Прешес А. | 6 класс, младшая средняя школа Каньон Дэй, штат Аризона.
Тепло - это передача кинетической энергии от одной среды или объекта к другой или от источника энергии к среде или объекту посредством излучения, проводимости и конвекции.
ChatGPT
Тепло - это вид энергии, который делает предметы теплее. Оно может быть получено при сжигании чего-либо или с помощью электричества.
Инструменты для проверки на мошенничество
Когда неясно, написал ли ChatGPT что-то или нет, могут помочь другие инструменты искусственного интеллекта. Эти инструменты обычно тренируются на текстах, сгенерированных ИИ, а иногда и на текстах, сгенерированных человеком. Они могут сказать вам, насколько вероятно, что текст был написан ИИ. Многие из существующих инструментов были обучены на старых языковых моделях, но разработчики быстро работают над созданием новых, улучшенных инструментов.
Компания Originality.ai продает доступ к инструменту, который обучался на GPT-3. Основатель компании Джон Гиллхэм утверждает, что в ходе тестирования 10 000 образцов текстов, составленных моделями, основанными на GPT-3, инструмент правильно определил 94 процента из них как созданные ИИ. Когда появился ChatGPT, его команда протестировала меньший набор из 20 образцов. Каждый длиной всего 500 слов, они были созданы ChatGPT и другими моделями, основанными на GPT-3 и GPT-3.5. Здесь, по словам Гиллхэма, инструмент "пометил их все как созданные ИИ. И в среднем он был уверен на 99 процентов".
В конце января 2023 года OpenAI выпустила свой собственный бесплатный инструмент для выявления искусственного интеллекта, предупредив, что он "не совсем надежен". Компания работает над тем, чтобы добавить водяные знаки к текстам, написанным искусственным интеллектом, что позволит пометить результат как созданный машиной, но не дает подробностей о том, как это сделать. Гиллхам описывает один из возможных подходов: Всякий раз, когда ИИ генерирует текст, он перебирает множество различных возможных слов для каждой позиции. Если разработчики скажут ему всегда выбирать слово, стоящее на третьем, а не на первом месте в определенных местах текста, эти слова могут стать отпечатком пальца, говорит он.
По мере совершенствования инструментов ИИ для написания текстов должны совершенствоваться и инструменты для их обнаружения. В конце концов, единственным способом определить истинное авторство может стать некий водяной знак.
*** Переведено с помощью www.DeepL.com/Translator (бесплатная версия) ***
Что такое ДНК и как она устроена?
Люк М. | 8 класс, Восточно-Йоркская средняя школа, штат Пенсильвания.
ДНК, или дезоксирибонуклеиновая кислота, находится внутри клеток живых существ, где она хранит инструкции по генетике организма, в котором обитает.
ЧатГПТ
ДНК похожа на набор инструкций, которые говорят нашим клеткам, что делать. Она организована в структуры, называемые хромосомами, которые содержат всю ДНК в клетке.
ChatGPT и будущее письменности
Несомненно, скоро нам придется приспосабливаться к миру, в котором компьютеры смогут писать за нас. Но педагоги и раньше вносили подобные коррективы. Как отмечает старшеклассник Рао, Google когда-то считался угрозой для образования, поскольку позволял мгновенно находить факты. Учителя приспособились, разработав учебные и тестовые материалы, которые не так сильно зависят от запоминания.
Теперь, когда ИИ может генерировать эссе и рассказы, учителям, возможно, снова придется переосмыслить методы преподавания и тестирования. Рао говорит: "Возможно, нам придется изменить нашу точку зрения на то, что является списыванием, а что нет".
Некоторые учителя будут препятствовать использованию ИИ учениками, ограничивая доступ к технологиям. Сейчас, говорит Фогельсингер, учителя регулярно просят учеников писать ответы или эссе на дом. "Я думаю, что эти задания придется изменить", - говорит он. Но он надеется, что это не означает, что дети будут меньше писать.
Обучение школьников письму без помощи искусственного интеллекта будет по-прежнему важным, соглашается Чжай. Это потому, что "нам действительно важно мышление ученика", - подчеркивает он. А письмо - это отличный способ продемонстрировать мышление". Хотя ChatGPT может помочь ученику организовать свои мысли, он не может думать за него, говорит он.
Дети все равно учатся основам математики, даже если у них есть калькуляторы (которые часто находятся в телефонах, без которых они никогда не выходят из дома), признает Чжай. Когда ученики освоят базовую математику, они смогут опираться на калькулятор при решении более сложных задач.
Вопросы или комментарии к этой статье? Напишите нам по адресу feedback@sciencenews.org | Reprints FAQ
Примечание редактора:
Эта статья была обновлена 10 мая 2023 года, чтобы исправить то, что инструмент Джона Гиллхэма для обнаружения ИИ был уверен на 99 процентов в идентификации текста, созданного ИИ (а не то, что инструмент правильно определил 97 процентов текста, созданного ИИ).
Версия этой статьи появилась в выпуске Science News от 8 апреля 2023 года.
раньше информацию искали в библиотеках
взаимность