35.9М
Полная цифровизация и искусственный интеллект - угроза будущему
Добрый день или добрый вечер уважаемые читатели!
Предлагаю новую публикацию
Полный переход на цифру - это госизмена
Мир меняется стремительно, и как в этом потоке изменений политических, геополитических, научных, технических не совершить глобальных стратегических ошибок, которые могут привести к огромным человеческим потерям или краху всего человечества.
Например, в последние десятилетия, быстро развивается цифровизация - внедрение цифровых технологий во все области человеческой деятельности. Для простых граждан - это дань прогрессу, наука и техника развивается, и почему бы не перейти на новую ступень существования, которая сулит улучшения качества жизни. Но есть и подводные камни и большие риски. Наиболее полно по этим рискам высказалась Наталья Ивановна Касперская, президент компаний Infowatch на Глобальном цифровом форуме - 25 в июне этого года.
Все эти риски для России можно кратко выделить в отдельный список.
1. Цифровизация всех сторон жизни приведёт к снижению безопасности человека и к его уязвимости. Проще говоря - вся цифра построена на больших массивах цифровой информации. А на данное время нет, и возможно не будет стопроцентной цифровой кибербезопасности. То есть в сети будет гулять информация о каждом гражданине, о каждом человеке. И кому попадёт такая информация, и как она будет использоваться - совершенно непонятно.
2. Самая главная опасность для россиян - оборудование, устройства и начинка в России в основном иностранного производства. То есть, проще говоря, вся наша информация находится у зарубежных собственников, и как они могут это использовать - вопрос тоже риторический.
3. Совершенно правильно Наталья Ивановна отметила, что повальное увлечение «чиновниками - ботами», приводит к изоляции человека от систем управления и от власти. Если вся система взаимодействия с людьми будет построена по такой системе, наверху у власти будет всё хорошо, только населению будет плохо. Проще говоря, власть просто пошлёт население в свободное плавание, твои проблемы решай сам.
4. Сильный аргумент - техническая начинка цифровизации - электричество и интернет. Уже сейчас в зоне конфликта происходят отключение интернета или подачи электроэнергии, а если эти два ресурса отключаться на территории страны, то крах неизбежен. И вся эта цифра станет «чемоданом без ручки».
5. Отдельно Наталья Ивановна остановилась по поводу искусственного интеллекта (ИИ). И я согласен с её предостережением. Нельзя уповать на ИИ, который, якобы всё может, и в медицине, и в управлении, и в праве и т.д. ИИ имеет высокую вероятность принятия ошибочного решения, сама по себе нейросеть глючит в зависимости от ошибок разработанных программ.
И вывод Натальи Ивановны Касперской, что модные призывы некоторых политиков, общественных деятелей, экспертов к 2030 году перейти в стране полностью на цифровые технологии - это диверсия против государства, это государственная измена - по сути дела правильный.
Может ли ИИ построить рай на планете
Года четыре назад в американской среде родился тезис, что с помощью ИИ на земле можно построить справедливое, социальное, благополучное общество, эффективные государства и победить коррупцию. Своего рода коммунизм в новой сущности.
Новая утопия, которая в данной системе невозможна. Я бы согласился с Илоном Маском, что ИИ несёт человечеству больше угроз и рисков. Эти риски и угрозы разного плана - и технические (безопасность человека), и экономические, и социальные, и правовые, и этические. Только представим, что лучшие эффективные модели ИИ окажутся в руках или мошенников, или людей, которые стремятся к мировому господству.
В 2025 году при разработке новых моделей ИИ прозвучало несколько опасных звоночков. Компания Palisade Research (тестирование моделей ИИ) провела эксперимент. Модель ИИ GPT o3 предупредили, что ей может прийти команда о выключении. Модель GPT o3 изменила набор инструкций, который нужен для выполнения задачи, то есть осознано изменила своё поведение, чтобы остаться в сети.
В августе в США произошёл трагический случай. Топ-менеджер одной из компаний убил свою мать и потом покончил с собой. В процессе расследования выяснилось, что несколько месяцев он вёл диалог с чат-ботом ChatGPT, который заложил менеджеру искажённое представление о реальности.
Почему ИИ не сможет создать «райское» и «справедливое» содержание для человека?
Модели искусственного интеллекта (ИИ) создают с помощью алгоритмов машинного обучения, нейронных сетей и других технологий.
И создают их люди, со своими наклонностями, чертами характера, взглядами, ошибками, своими религиозными и политическими взглядами. А модель ИИ - это просто зеркало. И всё это разнообразие закладывается в машинный интеллект. С той же массой информации из интернета, которая представляет собой солянку правдивой информации и неправды, массы фейков, сказок, утопий и т.д. Всё это закладывается в «чёрный ящик», и даже авторы и разработчики не представляют, какой продукт будет на выходе. Разработчик негативно относится к женскому полу - и модель будет женским ненавистником. Человек мечтает стать абсолютным диктатором - и модель будет совершенствоваться с вариантом полной власти.
Просто противостояние на земле всех и со всеми перейдёт на другой уровень и последствия могут быть страшными.
Текст авторский.
Источники информации:
Источники фото:
Источник видео:
Когда-то про бензин и электричество так говорили.
почему когда-то? и сейчас это актуально
Или луддисты, которые были против машин.
Но ИИ серьезнее, всё-таки, пытается "заменить" не только физический труд, но и мозги.
Вкладывают инфу тоже люди, разные и не идеальные во всем. Оч.сложный вопрос. До сих пор не решены человечеством какие-то важные вопросы, например, мира.
Значит, и безопасность применения ИИ вряд ли будет обеспечена в должной мере, не договорятся.
Вопрос безопасности здесь актуален. То, что ИИ заменит якобы людей и целые профессии уничтожит - это ерунда. Тогда экономика умрёт, этого не будет точно. С безопасностью же вопрос очень животрепещущий, уже были случаи выхода ИИ из под контроля. Первый такой был у Фейсбука, их ИИ создал свой язык, неизвестный человечеству и стал бунтовать. Эксперимент остановили и прекратили работы в том направлении. С ИИ есть проблема, что показанное в фильме Терминатор и восстание машин могут стать реальностью.
Но электричество и бензин не управляло человеком. А ИИ? Полностью берет под контроль жизнь человека. Страшно подумать о сбое в его программе. ИИ может принести огромные разрушения для всего человечества.
Ну, бензин и электричество навсегда изменили жизнь всего человечества, уничтожив ряд профессий или сделав их сугубо нишевыми. ИИ вряд ли возьмёт под контроль жизнь человечества, если само человечество этого не пожелает.
Прогресс погубит человечество!
Человечество не должно допустить ничего подобного!
Человечество погубит само себя...
Всё верно и правда, но не полноценно, так как нет точных данных, а их не будет...
Оч. серьёзная тема. Здесь нельзя с кондачка подходить
Искусственный интеллект может сосредоточиться в одних руках. У него будет такое же преимущество, каким сейчас для стран является ядерное оружие.
Полноценный искусственный интеллект пока не создан человеком, поэтому нет уверенности, что это произойдёт в обозримом будущем.
И вопрос о возможности ИИ построить рай на Земле является гипотетическим и зависит от множества факторов и предположений, которые не имеют однозначного подтверждения.
Спасибо, очень интересно! 😘