Чат-бот на основе искусственного интеллекта оказался непригоден для вирусов

Компания OpenAI запустила чат-бот ChatGPT в ноябре 2017 года.

Разработчики обнаружили, что чат-бот на основе ИИ может писать код.

Как с любой инновацией, некоторые люди пытаются воспользоваться этим для совершения вредоносных действий...

В течение многих лет компании и специалисты рассказывали о преимуществах ИИ. Но другие бьют тревогу …

С ChatGPT киберриск, безусловно, вышел на новый уровень.

Хакеры могут использовать его для создания вредоносных программ, написания вредоносных программ.

Еще одно не целевое применение чат-бота - запуск фишинговой кампании.

В декабре 2017 года исследователи из американской компании по кибербезопасности продемонстрировали, как чат-бот может построить кампанию по созданию вирусного ПО от начала до конца, от создания фишинговых писем до написания вредоносных кода.

Но чтобы сгенерировать полный код, модель искусственного интеллекта должна была учитывать элементы, до которых мог додуматься лишь опытный программист... И это предел возможностей чат-бота.

Чудесное решение, которое можно использовать для «скрипт-кидди» - Маркус Хатчинс, хакер, который в 2017 году помог остановить распространение вымогательской программы WannaCry.

Известный под интернет-псевдонимом MalwareTech, он пытался разработать ransomware (или ransomware, вредоносный код, шифрующий данные).

Но «ChatGPT потерпел неудачу», - объяснил он в интервью CyberScoop.

«Злоумышленник должен знать, чего он хочет, и уметь указывать функциональность». Простое написание «напишите код для вредоносного ПО» не даст ничего полезного», - сказал в пресс-релизе эксперт Checkpoint Сергей Шикевич.

«ChatGPT - это попугай, который много читал и умеет только пересказывать то, что уже известно. Для разработки вирусов ChatGPT не нужен», - говорит эксперт Министерства обороны, пожелавший остаться неизвестным.

Наконец, в своей новой версии чат-бот, по-видимому, более полезен для «скрипт-кидди». С помощью этого ИИ-решения эти неопытные хакеры могут компенсировать свои слабости в создании вредоносного кода».

В качестве доказательства на одном из хакерских форумов кем-то удалось разработать скрипт на языке Python, способный шифровать и дешифровать файлы на лету. Этот код, конечно, «доброкачественный», но в ближайшее время он может быть использован для «скрипта-кидди».

Источник:https://www.techniques-ingenieur.fr/