Искусственный интеллект может поставить обман на поток

Как Совет Федерации планирует регулировать ИИ с учетом всех рисков

Доброго дня вам, дорогие читатели и читательницы! Сегодня на повестке дня актуальная тема для многих из нас — искусственный интеллект или сокращённо ИИ. Именно поэтому я не смогла не обсудить эту новомодную технологию, так резко ворвавшуюся в нашу жизнь и перевернувшую её с ног на голову. Давайте разбираться вместе, в чем минусы ИИ и есть ли у него плюсы?

23 мая прошло заседание Совета Федерации, на котором обсуждалось злоупотребление ИИ и пути противодействия ему. Безусловно, данную отрасль нужно регулировать! Это объясняется серьёзными рисками искажения информации и нарушения прав человека. И в конце концов ИИ используют мошенники для своих схем в огромных масштабах.

Касается всех и каждого

Сенаторы и эксперты сделали акцент на борьбе со злоупотреблением нейросетями. Как это выглядит в жизни? Наверняка многие из вас сталкивались с телефонными мошенниками. Кто-то сейчас скажет, что такое нельзя забыть. И примеров будет масса. Кому-то повезло не угодить в сети мошенников, а кому-то нет.

Оказывается, в нашей цифровизации есть слабое звено, из-за которого утекают наши персональные данные в Сеть. И эта слабинка нечто иное, как отсутствие оценки социальных рисков. Так злоумышленникам только это и надо. Раз нет контроля, значит, и воровать можно сотнями миллионов персональных данных. Ну а когда всё случается, об утечке последних сообщают в Сети. Феноменально!

Так, в начале текущего года в открытом доступе были обнаружены:

• 121 миллион телефонных номеров;

• 38 миллионов e-mail адресов.

Вот это масштабы! Это в 5 раз больше, чем за такой же промежуток времени 2023 года. Впечатляет, не правда ли?

Как сообщает член Совета при Президенте России по развитию гражданского общества и правам человека Игорь Ашманов: «Согласно оценкам Роскомнадзора, за прошлый год украдено 490 миллионов записей. А за январь 2024 года — 510 миллионов записей». А это уже в 10 и более раз больше.

Мошенники звонят по разным поводам, представляясь сотрудниками прокуратуры или полиции. Их уверенность не имеет границ. Они заявляют о наличии договора у вас и с лёгкостью могут назвать его номер. Они могут в нужный момент надавить на вас и пригрозить уголовным преследованием, мотивируя это отсутствием оплаты по кредиту с вашей стороны.

Большинство людей уже научены подобными схемами и не ведутся на них. Но есть и те, кто переводит деньги без всяких подозрений об обмане. Как правило, на такие ловушки попадаются граждане в возрасте от 35 до 45 лет, у которых есть денежные средства на банковских картах.

Голос украден

На данный момент уже известно, что эта огромная машина выкачивает денежные средства из граждан. А запускают механизмы украинские контактные центры, обеспеченные поддержкой государства и СБУ. А поскольку в контактных центрах уже работает ИИ, то он позволяет делать в сутки не 500 звонков, а 500 000.

Причём голос звонящего звучит вполне естественно, как у живого человека. Но и на этом возможности ИИ не останавливаются. Он в будущем сможет совершать ещё больше звонков и даже оказывать гипнотическое влияние на жертву. ИИ сможет имитировать голоса родственников, если удастся их обнаружить и синтезировать. Возникает закономерный риск незаконного применения голоса определённого человека для преступных действий.

Что предлагает Совфед? В настоящее время на разработке находится законопроект, который позволит устранить данный правовой пробел. Будут закреплены принципы использования голоса только с согласия гражданина, за исключением некоторых норм. Об этом рассказал член комитета СФ по конституционному законодательству и государственному строительству Артем Шейкин.

Обман поставлен на рельсы

Со слов председателя Комиссии Совфеда по информационной политике и взаимодействию со СМИ Алексея Пушкова, обман в буквальном смысле поставлен на рельсы. ИИ позволяет совершать многочисленные звонки, а его голос практически неотличим от человеческого. Именно поэтому нужно вести активную работу с правонарушениями, причиной которых становится ИИ.

Важно помнить о том, что посредством этой технологии несовершеннолетние могут быть вовлечены в терроризм. К тому же ИИ может наблюдать за людьми (распознавать их лица и следить за ними). А это уже нарушение прав человека!

Что предлагает Совфед? Закон однозначно требует коррекции. Но для этого необходимо понимание, в каких рамках будет позволена та или иная форма наблюдения за человеком. К тому же важно определить, в какие именно сферы ИИ нужно вмешаться. Для этого потребуется консультация с правоохранителями.

Ранее Интернет считался зоной свободы, а теперь? Зона процветающей преступности, не меньше!

Без вины виноватый

Первый заместитель председателя Комитета СФ по конституционному законодательству и государственному строительству Ирина Рукавишникова выразила свою точку зрения. С её слов, нейросеть может предоставить неверные данные, которые чреваты неправильными решения. Ярким примером стала история учёного-геодезиста Александра Цветкова.

Именно ИИ вывел данные и сделал выводы касаемо жестокого преступления (убийства!) с 20-летним сроком давности. Он выдал 55% совпадения внешности преступника с геодезистом, который вынужденно провёл в тюрьме 10 месяцев. Ошибка была признана, и учёному принесли извинения, но ведь подобные случаи могут стать массовыми.

Именно поэтому Совфед обратился к экспертам с просьбой обозначить сферы, где использование нейросетей недопустимо. В эту группу отнесли биометрическую категоризацию граждан и распознание эмоций человека на рабочем месте. Сюда же включили окончательные медицинские диагнозы, решения об уголовной ответственности и вынесения судебных решений.

Дважды два четыре

Несмотря на все предупреждения люди продолжают продавать и покупать сим-карты без паспорта. Со слов председателя совета Фонда развития цифровой экономики Германа Клименко, эта проблема находится на стадии разрешения. Наконец-то настало время заканчивать историю с серыми симками, которых насчитывается до 30%.

Герман Клименко пояснил, что в РФ существуют целые центры (в десятках городах!), предназначенные для обзвона злоумышленниками. Управляют ими Украина или иные государства. Речь идёт о тысячах левых симок, вставленных в специальные приборы. Поэтому россиянам нередко звонят из-за рубежа с поддельных номеров.

Любопытно, но факт! К примеру, в Бельгию невозможно позвонить анонимно, а в РФ можно. При звонке в Бельгию отобразится звонящий номер, а в России номер может быть как анонимным, так и поддельным. Поэтому на дисплее можно увидеть, что звонок поступает от некоего сотрудника прокуратуры или полиции.

Это ещё раз доказывает, что систему нужно ужесточать. А поскольку она объёмная, то и схем определённых нет у правонарушителей. Некоторые злоумышленники до сих совершают дозвоны из мест не столь отдалённых. Именно поэтому в каждой отдельно взятой ситуации необходим индивидуальный подход.