Для школьников и студентов есть неприятная новость - теперь нейросети больше не помогут им писать домашние задания и дипломные работы.

Мрачная новость для школьников и студентов.

Появились Антиплагиатные сервисы, которые были усовершенствованы, теперь способны не только обнаружить плагиат в дипломной работе, но также определить, если текст был создан с помощью искусственного интеллекта. Это действительно впечатляющее достижение, не так ли? Теперь невозможно обмануть систему и приписать себе текст, созданный ИИ. Такие инструменты становятся незаменимыми для обеспечения честности в академическом сообществе и защиты от недобросовестных практик.

Согласно новым разработкам, студенты и школьники больше не смогут использовать искусственный интеллект для выполнения своих работ.

------------------------------------------------------------------------------------------------------------------------------------------------

Но не все так плохо для тех, кто пишет при помощи ИИ…

Согласно проведенному исследованию пятерыми компьютерными учеными из Университета Мэриленда, будущее уже наступило. Они спросили себя: "Можно ли надежно обнаружить текст, созданный искусственным интеллектом?" Их вывод состоит в том, что на практике такой текст не может быть надежно обнаружен ни с теоретической, ни с практической точки зрения.

Неуправляемое использование искусственного интеллекта может привести к негативным последствиям, таким как плагиат, распространение фейковых новостей, спам и другие проблемы, предупреждают ученые. Поэтому надежное обнаружение текста, созданного с помощью ИИ, становится критически важным для ответственного использования сервисов, таких как ChatGPT и Bard от Google.

В исследовании были рассмотрены самые современные методы обнаружения текста, созданного искусственным интеллектом, которые уже присутствуют на рынке. Оказалось, что даже простая "атака перефразирования" достаточна, чтобы обойти все эти методы. Путем легкой перестановки слов в исходном сгенерированном тексте умный или даже злонамеренный сервис с использованием ИИ может обмануть множество детекторов.

Даже применение методов водяных знаков или сканеров на основе нейронных сетей "эмпирически невозможно надежно обнаружить текст, созданный искусственным интеллектом". В худшем случае перефразирование может снизить точность обнаружения текста, созданного с помощью ИИ, с 97% до 57%. Это означает, что детектор будет работать не лучше случайного классификатора или бросания монеты, отмечают ученые.

Алгоритмы водяных знаков, наносящие неразличимую подпись на текст, созданный искусственным интеллектом, полностью исчезают при перефразировании и даже представляют дополнительный риск для безопасности. Злоумышленники могут извлекать скрытые подписи водяных знаков и добавлять их к сгенерированному тексту. Таким образом, вредоносный, спамовый или фальшивый текст может быть обнаружен как текст, созданный с использованием искусственного интеллекта.

Согласно словам Сохейла Фейзи, одного из авторов исследования, мы должны принять тот факт, что мы, возможно, никогда не сможем однозначно определить, был ли текст написан человеком или искусственным интеллектом.

Как возможное решение проблемы фальшивого текста, ученые предлагают усилить усилия по проверке источника текстовой информации. Они отмечают, что социальные платформы начинают широко проверять аккаунты, что может затруднить распространение дезинформации, основанной на искусственном интеллекте.