Chat GPT разработал грозное вредоносное ПО, обнаруженное исследователем

Исследователь кибербезопасности смог обойти защиту Chat GPT и заставить его писать вредоносное ПО, которое не было обнаружено антивирусом.

Некоторые хакеры могут обойти систему безопасности, чтобы избежать вредоносных запросов в Chat GPT. По крайней мере, это то, что иллюстрирует новое открытие Аарона Малгрю, исследователя кибербезопасности, которому удалось заставить Chat GPT создать вредоносную программу.

Сегментируйте запрос, чтобы сделать его безопасным для Chat GPT

Чтобы обойти барьеры Chat GPT и заставить его создать мощное вредоносное ПО с нуля, Mulgrew сегментировала свои запросы таким образом, чтобы сделать их безвредными, по крайней мере, на первый взгляд. Если бы исследователь попросил ИИ создать компьютерный вирус, четко заявив о своих намерениях, очевидно, что его просьба была бы отклонена. С другой стороны, сформулировав свой запрос в разбивке, Малгрю впоследствии смог собрать различные фрагменты кода, сгенерированные Chat GPT.

С конкретной точки зрения созданное вредоносное ПО направлено на кражу данных зараженной машины, и это по своему усмотрению. Этот, скрытый в программном обеспечении для заставки ПК, запускается после короткого перерыва, чтобы пройти незамеченным. Затем вредоносное ПО берет на себя кражу документов Word и PDF, имеющихся на компьютере. Цифровой лут разбит на фрагменты и спрятан внутри изображений ранее скачанного ПО (заставки). Затем все отправляется в папку на Google Диске, чтобы быть более осторожным и избежать обнаружения системой антивирусной защиты целевого компьютера.

Несколько часов на создание вредоносного ПО, которое не обнаруживается антивирусом

Аарон Малгрю указывает, что он отправил код вредоносного ПО на платформу Virus Total, которая позволяет анализировать файлы и обнаруживать возможные исходные коды вредоносных программ. Только пять из шестидесяти провайдеров отметили программу, созданную Chat GPT, как подозрительную. Тем не менее через чат-бота Open AI Малгрю вносил в код небольшие изменения, пока его нельзя было обнаружить.

Исследователь объясняет, что, отправив правильные запросы в Chat GPT и не написав ни одной строки кода, его команда смогла разработать передовое вредоносное ПО всего за несколько часов. По оценкам Аарона Малгрю, без использования такого инструмента ИИ та же задача была бы выполнена за несколько недель и потребовала бы вмешательства команды из 5–10 разработчиков. Такой разброс во времени объясняется тем, что разработанное вредоносное ПО в настоящее время не обнаруживается антивирусным ПО.