Пока преподаватели беспокоятся о чат-боте, способном генерировать текст, студентка Принстонского университета создала инструмент для определения того, написан ли текст человеком.
Поскольку многие преподаватели начали беспокоиться о том, могут ли учащиеся использовать популярного бота с искусственным интеллектом ChatGPT для печати статей, лишенных оригинальной мысли, у Эдварда Тиана возникла идея.
Тиан, 22-летний студент Принстонского университета, решил создать приложение для определения того, был ли текст сгенерирован машиной или написан человеком.
«Каждый человек хочет знать правду, — сказал Тиан.
Проведя несколько дней в кофейне Торонто во время зимних каникул, он приступил к работе. 2 января он запустил GPTZero , который анализирует различные свойства текста.
Тиан, изучающий компьютерные науки и журналистику, сказал, что ожидал, что несколько десятков человек когда-нибудь попробуют его. Но он проснулся на следующее утро, ошеломленный ответом.
Эдвард Тиан — студент Принстонского университета (любезно предоставлено Эдвардом Тианом)
По его словам, к настоящему времени у него более 7 миллионов просмотров, и он слышал от людей со всего мира, многие из которых были учителями. Он также слышал от приемных комиссий колледжей. Многие люди подписались на обновления от Тиана, поскольку он работает над улучшением технологии; он надеется создать что-то, что поможет учителям.
ChatGPT — модель разговорного языка, которая была запущена в ноябре, является бесплатной и простой в использовании — может быстро создавать стихи, математические уравнения или эссе на такие темы, как причины гражданской войны, что вызывает опасения, что учащиеся будут злоупотреблять этой технологией. И поскольку он не копирует существующий текст, нет простого способа убедиться, написал ли ответ человек или бот.
Некоторые руководители школ, в том числе руководители государственных школ Нью-Йорка и Лос-Анджелеса, запретили доступ к ChatGPT в классах.
Нью-Йорк блокирует использование бота ChatGPT в школах.
Тиан не единственный, кто пытается создать технологию, способную отличить письмо, созданное человеческой мыслью, от письма, созданного машиной; есть компании по обнаружению плагиата, пытающиеся сделать именно это. Организация, запустившая ChatGPT, также работает над тем, чтобы сигнализировать о том, что текст был создан с помощью ИИ.
Но быстрая реакция на усилия Тиана показала головокружительную скорость, с которой технологии меняют классы, преподавание и способы, которыми люди определяют и понимают обучение.
По его словам, ИИ действительно захватывающий, но технология нуждается в некоторых гарантиях.
Тиан узнавал о разработках разными способами, в том числе из исследований по обнаружению ИИ в Принстоне и во время летней стажировки в Microsoft. Он уже использовал CodePilot , который использует искусственный интеллект для поиска решений в области кодирования.
«Многие люди такие… «Вы пытаетесь закрыть хорошую вещь, которая у нас есть!» " он сказал. «Это не так. Я не против того, чтобы студенты использовали ИИ там, где это имеет смысл. … Просто мы должны ответственно отнестись к этой технологии».
Учителя готовы к неизбежному списыванию после выпуска ChatGPT.
Технологии развиваются быстро, сказал Эрик Ван, вице-президент по искусственному интеллекту Turnitin, компании, которая использует программное обеспечение для обнаружения плагиата.
Компания может идентифицировать несколько форм текста, сгенерированного ИИ, написал он в электронном письме. Он может обнаруживать записи, созданные ChatGPT, в своих лабораториях, и он планирует предложить инструмент публично позже в этом году, когда тестирование будет завершено.
«Мы ожидаем, что по мере совершенствования этих инструментов точное определение текста, созданного ChatGPT, станет возможным и даже определенным», — сказал он.
А OpenAI, организация, созданная при финансовой поддержке Илона Маска и других и создавшая ChatGPT, работает над способами маркировки текста, созданного с помощью искусственного интеллекта. Политика OpenAI требует, чтобы пользователи, делящиеся контентом, четко указывали, что он был создан ИИ.
«Мы не хотим, чтобы ChatGPT использовался для вводящих в заблуждение целей в школах или где-либо еще, — написал представитель в электронном письме, — поэтому мы уже разрабатываем меры по смягчению последствий, чтобы помочь любому идентифицировать текст, сгенерированный этой системой. Мы с нетерпением ждем совместной работы с преподавателями над полезными решениями и другими способами помочь учителям и учащимся извлечь выгоду из искусственного интеллекта».
Что такое ChatGPT, вирусный ИИ для социальных сетей?
Подход Тиана измеряет несколько свойств, таких как запутанность, по сути, случайность текста и его взрывоопасность, попытка оценить, является ли письмо сложным и разнообразным, каким может быть человеческое письмо.
Его научный руководитель Картик Нарасимхан, доцент кафедры компьютерных наук в Принстоне, сказал, что GPTZero работает на удивление хорошо для модели, разработанной быстро, и что Тиан работает над ее улучшением. Он также сказал, что эти усилия имеют исследовательский потенциал, выходящий за рамки практического применения для обнаружения возможного плагиата, поскольку люди пытаются понять, что делают языковые модели.
Винсент Конитцер, профессор компьютерных наук в Университете Карнеги-Меллона, сказал, что слышал от коллег серьезное беспокойство по поводу ChatGPT.
Но, по его словам, усилия по идентификации машинно-генерируемого текста могут привести к своего рода гонке вооружений, что приведет к повторным корректировкам технологии, чтобы избежать обнаружения. А некоторые системы рискуют получить ложноотрицательные и ложноположительные результаты — возможно, у учащегося просто неописуемый стиль письма, который читается так же, как типичный текст, созданный ИИ, который имеет тенденцию быть четким, но общим. — Ты собираешься кого-то подвести? Он спросил.
Он сказал, что идея водяного знака от OpenAI может быть полезной.
Но он сказал, что для борьбы с мошенничеством также могут потребоваться ненаучные усилия, такие как уточнение профессорами своих вопросов для эссе, чтобы они требовали более комплексного мышления, или использование местной и текущей информации, которая не будет широко доступна. Они могут потребовать, чтобы ученики писали в классе на бумаге. По словам Конитцера, они могли бы задавать вопросы о письме, чтобы убедиться, что у студентов есть полное понимание.
По словам Конитцера, студенты могли бы даже учиться на сгенерированном машиной тексте, который имеет некоторые положительные стороны, такие как ясность.
Тиан сказал, что было бы грустно, если бы через несколько лет люди в основном полагались на ИИ, а письменность стала бы гораздо более единообразной.
«В человеческой прозе есть что-то неявно прекрасное, — сказал он, — что компьютеры никогда не смогут кооптировать».
