ChatGPT угроза образованию.Компания вносит правки в ИИ для обучения

Когда во вторник OpenAI объявила о своем новом инструменте для обнаружения ИИ, компания предположила, что она может помочь предотвратить академическое мошенничество, используя своего собственного чрезвычайно популярного чат-бота с искусственным интеллектом, ChatGPT.

Но в серии неофициальных тестов, проведенных NBC News, инструмент OpenAI изо всех сил пытался идентифицировать текст, сгенерированный ChatGPT. Особенно трудно было, когда ChatGPT попросили написать так, чтобы избежать обнаружения ИИ.

Инструмент обнаружения, который OpenAI называет своим классификатором текста AI, анализирует тексты, а затем присваивает им одну из пяти оценок: «очень маловероятно, маловероятно, неясно, возможно ли, или вероятно, сгенерировано ИИ». Компания заявила, что инструмент будет давать оценку «вероятно сгенерированному ИИ» тексту, написанному ИИ, в 26% случаев.

Инструмент появился, когда внезапная популярность ChatGPT привлекла новое внимание к проблеме, которую передовые инструменты генерации текста могут создать для преподавателей. Некоторые учителя говорят, что точность и отсутствие определенности детектора могут создать трудности при обращении к ученикам по поводу возможной академической нечестности.

«Это может дать мне определенную степень уверенности, и мне это нравится», — сказал Бретт Фогельсингер, учитель английского языка в девятом классе средней школы Холиконг в Дойлстауне, штат Пенсильвания. «Но потом я также пытаюсь представить, как прихожу к студенту с разговором об этом».

Фогельсингер сказал, что ему было трудно представить себя лицом к лицу со студентом, если инструмент сказал ему, что что-то, вероятно, было сгенерировано ИИ.

«Это больше подозрение, чем уверенность, даже с инструментом», — сказал он.

Ян Майерс, доцент кафедры компьютерных наук в Университете Мэриленда, назвал ИИ-классификатор текста «своего рода черным ящиком, который никто в дисциплинарном процессе полностью не понимает». Он выразил обеспокоенность по поводу использования этого инструмента для обнаружения мошенничества и предупредил преподавателей, чтобы они учитывали точность программы и количество ложных срабатываний.

«Он не может предоставить вам доказательства. Вы не можете провести перекрестный допрос», — сказал Майерс. «И поэтому непонятно, как вы должны это оценивать».