Полная цифровизация и искусственный интеллект - угроза будущему

Добрый день или добрый вечер уважаемые читатели!

Предлагаю новую публикацию

Мир меняется стремительно, и как в этом потоке изменений политических, геополитических, научных, технических не совершить глобальных стратегических ошибок, которые могут привести к огромным человеческим потерям или краху всего человечества.

Например, в последние десятилетия, быстро развивается цифровизация - внедрение цифровых технологий во все области человеческой деятельности. Для простых граждан - это дань прогрессу, наука и техника развивается, и почему бы не перейти на новую ступень существования, которая сулит улучшения качества жизни. Но есть и подводные камни и большие риски. Наиболее полно по этим рискам высказалась Наталья Ивановна Касперская, президент компаний Infowatch на Глобальном цифровом форуме - 25 в июне этого года.

Все эти риски для России можно кратко выделить в отдельный список.

1. Цифровизация всех сторон жизни приведёт к снижению безопасности человека и к его уязвимости. Проще говоря - вся цифра построена на больших массивах цифровой информации. А на данное время нет, и возможно не будет стопроцентной цифровой кибербезопасности. То есть в сети будет гулять информация о каждом гражданине, о каждом человеке. И кому попадёт такая информация, и как она будет использоваться - совершенно непонятно.

2. Самая главная опасность для россиян - оборудование, устройства и начинка в России в основном иностранного производства. То есть, проще говоря, вся наша информация находится у зарубежных собственников, и как они могут это использовать - вопрос тоже риторический.

3. Совершенно правильно Наталья Ивановна отметила, что повальное увлечение «чиновниками - ботами», приводит к изоляции человека от систем управления и от власти. Если вся система взаимодействия с людьми будет построена по такой системе, наверху у власти будет всё хорошо, только населению будет плохо. Проще говоря, власть просто пошлёт население в свободное плавание, твои проблемы решай сам.

4. Сильный аргумент - техническая начинка цифровизации - электричество и интернет. Уже сейчас в зоне конфликта происходят отключение интернета или подачи электроэнергии, а если эти два ресурса отключаться на территории страны, то крах неизбежен. И вся эта цифра станет «чемоданом без ручки».

5. Отдельно Наталья Ивановна остановилась по поводу искусственного интеллекта (ИИ). И я согласен с её предостережением. Нельзя уповать на ИИ, который, якобы всё может, и в медицине, и в управлении, и в праве и т.д. ИИ имеет высокую вероятность принятия ошибочного решения, сама по себе нейросеть глючит в зависимости от ошибок разработанных программ.

И вывод Натальи Ивановны Касперской, что модные призывы некоторых политиков, общественных деятелей, экспертов к 2030 году перейти в стране полностью на цифровые технологии - это диверсия против государства, это государственная измена - по сути дела правильный.

Года четыре назад в американской среде родился тезис, что с помощью ИИ на земле можно построить справедливое, социальное, благополучное общество, эффективные государства и победить коррупцию. Своего рода коммунизм в новой сущности.

Новая утопия, которая в данной системе невозможна. Я бы согласился с Илоном Маском, что ИИ несёт человечеству больше угроз и рисков. Эти риски и угрозы разного плана - и технические (безопасность человека), и экономические, и социальные, и правовые, и этические. Только представим, что лучшие эффективные модели ИИ окажутся в руках или мошенников, или людей, которые стремятся к мировому господству.

В 2025 году при разработке новых моделей ИИ прозвучало несколько опасных звоночков. Компания Palisade Research (тестирование моделей ИИ) провела эксперимент. Модель ИИ GPT o3 предупредили, что ей может прийти команда о выключении. Модель GPT o3 изменила набор инструкций, который нужен для выполнения задачи, то есть осознано изменила своё поведение, чтобы остаться в сети.

В августе в США произошёл трагический случай. Топ-менеджер одной из компаний убил свою мать и потом покончил с собой. В процессе расследования выяснилось, что несколько месяцев он вёл диалог с чат-ботом ChatGPT, который заложил менеджеру искажённое представление о реальности.

Почему ИИ не сможет создать «райское» и «справедливое» содержание для человека?

Модели искусственного интеллекта (ИИ) создают с помощью алгоритмов машинного обучения, нейронных сетей и других технологий.

И создают их люди, со своими наклонностями, чертами характера, взглядами, ошибками, своими религиозными и политическими взглядами. А модель ИИ - это просто зеркало. И всё это разнообразие закладывается в машинный интеллект. С той же массой информации из интернета, которая представляет собой солянку правдивой информации и неправды, массы фейков, сказок, утопий и т.д. Всё это закладывается в «чёрный ящик», и даже авторы и разработчики не представляют, какой продукт будет на выходе. Разработчик негативно относится к женскому полу - и модель будет женским ненавистником. Человек мечтает стать абсолютным диктатором - и модель будет совершенствоваться с вариантом полной власти.

Просто противостояние на земле всех и со всеми перейдёт на другой уровень и последствия могут быть страшными.

Текст авторский.

Источники информации:

Подробнее ➤

Подробнее ➤

Подробнее ➤

Источники фото:

Подробнее ➤

Подробнее ➤

Подробнее ➤

Источник видео:

Подробнее ➤