Создатель ChatGPT выпустил новый инструмент для обнаружения текста, сгенерированного искусственным интеллектом

Это заявление было сделано на фоне бурных дебатов в школах и университетах по всему миру в связи с опасениями, что программное обеспечение может быть использовано для помощи студентам в выполнении заданий и списывания во время экзаменов.

Сан-Франциско: Создатели бота ChatGPT, вызвавшего ажиотаж благодаря своей способности имитировать человеческое письмо, во вторник выпустили инструмент, предназначенный для обнаружения того, что авторство письменных работ принадлежит искусственному интеллекту.

Это объявление появилось на фоне напряженных дебатов в школах и университетах США и всего мира по поводу опасений, что программное обеспечение может быть использовано для помощи студентам в выполнении заданий и списывания на экзаменах.

Американская компания OpenAI сообщила во вторник в своем блоге, что ее инструмент обнаружения был обучен "различать текст, написанный человеком, и текст, написанный ИИ от различных провайдеров".

Бот от OpenAI, который недавно получил крупные денежные вливания от Microsoft, отвечает на простые подсказки целым потоком текста, созданного на основе данных, собранных в Интернете.

OpenAI предупреждает, что его инструмент может допускать ошибки, особенно при работе с текстами, содержащими менее 1 000 символов.

"Хотя невозможно надежно выявить все тексты, написанные ИИ, мы считаем, что хорошие классификаторы могут помочь в борьбе с ложными утверждениями о том, что текст, созданный ИИ, был написан человеком", - говорится в сообщении OpenAI.

"Например, проведение автоматизированных кампаний по дезинформации, использование инструментов ИИ для выявления академической нечестности и позиционирование чатбота ИИ как человека".

На прошлой неделе один из ведущих французских университетов запретил студентам использовать ChatGPT для выполнения заданий, что стало первым подобным запретом в колледже страны.

Это решение было принято вскоре после того, как стало известно, что ChatGPT сдал экзамены в одной из юридических школ США после написания эссе на различные темы - от конституционного права до налогообложения.

ChatGPT по-прежнему допускает фактические ошибки, но образовательные учреждения поспешили запретить инструмент искусственного интеллекта.

"Мы признаем, что идентификация написанного ИИ текста стала важной темой для обсуждения среди преподавателей, и не менее важно признать ограничения и последствия использования классификаторов текста, созданных ИИ, в классе", - говорится в сообщении OpenAI.

"Мы взаимодействуем с преподавателями в США, чтобы узнать, что они видят в своих классах, и обсудить возможности и ограничения ChatGPT".

Официальные лица в Нью-Йорке и других юрисдикциях запретили его использование в школах.

Группа австралийских университетов заявила, что они изменят форматы экзаменов, чтобы запретить инструменты искусственного интеллекта и рассматривать их как списывание.

OpenAI заявила, что рекомендует использовать классификатор только с английским текстом, так как на других языках он работает хуже.