«Научи меня плохому!» Мошенники обучили GPT-чат обманывать людей

«До чего дошел прогресс!

Труд физический исчез,

Да и умственный заменит

Механический процесс». (с)

Из песни Сережи Сыроежкина «До чего дошёл прогресс» (к/ф «Приключения Электроника»)

***

Об искусственном интеллекте сегодня не говорит только ленивый. Опасения людей в основном заключались в том, что нейросети заменят их во многих сферах труда. В том числе – творческих. Но пока в кулуарах форумов и соцсетей обсуждалась такая нерадужная перспектива, мошенники не теряли время даром и обучали ИИ плохому. А молодая нейросеть и рада хватать всё новое.

Ситуация, как в старом «Ералаше», только хуже.

GPT-мошенники

На днях появилась информация что ChatGPT теперь используется в фишинговых атаках – об этом рассказала прессе Управляющий директор «Лаборатории Касперского» в России и странах СНГ Анна Кулашова.

Чтобы понять, чем грозит такое обучение ИИ нам, простым пользователям, давайте сначала разберемся в понятии: что такое фишинговая атака.

Фишинговая атака это…

Все владельца электронных почтовых ящиков регулярно сталкиваются со спамом. Так вот, рассылка мошенниками сообщений, похожих на настоящие, из надежных источников (банков, компаний и прочего), и является фишинговой атакой на пользователей.

Цель злоумышленников в фишинговой атаке – кража ваших персональных данных или запуск в гаджет вируса.

Обычно в таких письмах есть ссылка и просьба перейти по ней. А то и вовсе рекомендация заполнить анкету.

Чем помогает мошенникам ИИ?

По словам Анны Кулашовой, искусственный интеллект способен быстрее и эффективнее писать тексты спам-сообщений, причем он делает это без очевидных ошибок: деловой стиль письма нейросеть освоила довольно неплохо. То есть теперь отличить фишинговое письмо от настоящей рассылки стало сложнее: внешний признак – безграмотность – исчез.

Тем не менее, в настоящее время нейросети ещё не настолько совершенны, чтобы полностью копировать письменную речь человека. Но ИИ очень быстр обучается.

Тот же ChatGPT был представлен широкой публике только 30 ноября 2022 года и в считанные дни обрел огромную популярность. Его стали использовать не только специалисты в узких отраслях, как то программисты, аналитики, рерайтеры, но и обычные блогеры, ведущие личные странички. Что далеко ходить за примерами — на сайте 9111 пруд-пруди текстов, созданных нейросетью. Некоторые из них даже участвуют у конкурсе. И, как ни странно, получают лайки. О_о (Наверное, от таких же роботов).

И ладно бы чат-бот использовался только для развития брендов... Но ведь не прошло и года, как ChatGPT научился писать вредоносные программы!

К чему это приведет?

Банки. Ру приводят несколько примеров использования ChatGPT мошенниками:

• 1) Один из хакеров научил чат-бот похищать файлы, сжимать их и отправлять по нужному адресу.
• 2) Другой нечистый на руку программист научил ChatGPT устанавливать на компьютер бэкдор: дефект алгоритма для удаленного доступа к ПК и запускать в устройство вирусы.
• 3) Третий хакер написал с помощью ИИ код Python, способный шифровать файлы, в том числе и без ведома пользователя – обычно так работают программы-вымогатели.

Дальше – больше. Боты в переписке были известны и ранее, их запускают даже государственные структуры (например, «Госуслуги»), но теперь мошенники с помощью ChatGPT имитируют живое общение на сайтах знакомств, чтобы выманивать деньги у жертв.

Израильская компания Check Point считает, что чат-бот будет быстро совершенствоваться и станет более продвинутым благодаря знаниям, вложенным в них гениальными хакерами. Всё это рано или поздно приведёт к тому, что аферисты начнут использовать GPT-чат для создания подложных сайтов, ботов для переписки, высоконаправленных фишинговых кампаний и прочих инструментов, опирающихся на достижения социальной инженерии.

Будущее не за горами, господа.

Вывод

Что хочется сказать в связи с этими нерадостными вестями. Если 50 лет назад казалось, что робот должен облегчить тяжёлый труд человека, то сейчас становится очевидным: ушлые мошенники используют достижения науки намного быстрее и эффективнее, чем все остальные, включая ученых и производителей.

Что в такой ситуации остаётся делать нам: простым смертным, не знакомым с высокоточными науками и программными кодами? Пожалуй, только оставаться людьми да повышать критичность мышления и внимательность к деталям. Возможно, это позволит нам дольше отличать реального человека от искусственного и тем самым не попасть на удочку аферистов...

Всего вам доброго, мои читатели!