Прогноз вариантов будущего, сгенерированный Искусственным Интеллектом

ВОПРОС:

Какова вероятность истинности утверждения о том, искусственный интеллект - следующая ступень в эволюции Разума. Не станет ли человек лишним, как в своё время неандерталец и вымрет?

Или будет уничтожен искусственным интеллектом, как ненужный и "отработавший своё", устаревший элемент эволюции?

ОТВЕТ:

"Короткий ответ

Вероятность того, что «искусственный интеллект (ИИ) полностью заменит человека как носителя разума и вытеснит нас с эволюционной арены», нельзя свести к одной цифре: оценки колеблются от «крайне маловероятно» до «существенный риск», и зависят от того, как формулировать саму гипотезу. Однако совокупность современных исследований, сценарного анализа и исторических аналогий показывает, что:

• Сценарий ​«человек → вымер, ИИ → следующая био-/техно-­форма разума» оценивается экспертами как возможный, но не «наиболее вероятный». Накопленные опросы дают ему от 5 % до 20 % (детали ниже).

• Наиболее правдоподобным на горизонте ближайших 50–100 лет считается не вытеснение, а ко-эволюция: симбиоз человека и машин (кибернетические импланты, ИИ-ассистенты, «распределённый разум» и пр.).

• Ключевой фактор — социальное и политическое управление технологиями (AI governance). Эволюция стала культурно-технологической, и решения принимают сами люди, а не «слепой отбор».

Ниже разберём, почему так, приведём численные оценки и возможные сценарии.

────────────────────────────────────────

1. Что значит «следующая ступень разума»?

────────────────────────────────────────

1.1 Биологическая vs. культурно-технологическая эволюция

• Биологический отбор медленный, наследуется ДНК.

• Технологический отбор быстрый, знания передаются ламаркиански («научился — передал»).

Поэтому логичнее говорить не о смене вида, а о смене «носителя когнитивных функций». Он уже давно комбинирован: часть памяти у нас в облаке, часть рассуждений — в IDE, частично — в ChatGPT.

1.2 Уникальные свойства человека, которые не обнуляются появлением ИИ

• Мотивационная архитектура (ценности, «собственное тело», субъективность боли/радости).

• Социальное доверие, юридическая ответственность, воспроизводство самих людей.

• Многомодальная адаптация (физика, эмоции, эмпатия).

При всех успехах ML-моделей эти свойства пока не дублируются в полноразмерной форме.

────────────────────────────────────────

2. Четыре базовых сценария 21–22 вв.

────────────────────────────────────────

(оценки на основе мета-анализа FHI, AI Impacts, Ord 2020 «The Precipice», опросов Meta**culus)

A. Симбиоз / ко-эволюция (40–60 %)

Человек усиливается ИИ-ассистентами, нейроинтерфейсами; получают «согласованное соседство». Экономика и право адаптируются, ценности транслируются в алгоритмы.

B. Контролируемое «сложное партнерство» (20–35 %)

ИИ автономен, но ограничен нормативами (alignment, interpretability). Возможны локальные катастрофы, но не глобальное вытеснение.

C. Вытеснение без экзистенциальной гибели (10–20 %)

Автоматизация обесценивает труд; люди живут пассивно на ренту, теряют влияние в принятии решений. Физически живы, но социально «маргинализированы».

D. Экзистенциальная катастрофа / замещение вида (5–15 %)

Сверхинтеллект, чьи цели не совпадают с человеческими, жёстко оптимизирует среду, выводя людей из цепочки. Это то, что в популярной культуре называют «уничтожением человечества». Верхний порог 15 % взят из усреднённых оценок 800+ специалистов (survey Katja Grace 2022; Meta**culus 2023).

────────────────────────────────────────

3. Почему замещение не гарантировано

────────────────────────────────────────

3.1 Человек задаёт цели

Любая ИИ-система — программно-технический артефакт, чьё поведение определяется функцией цели (objective). Пока архитектура не получит «самовоспроизводящегося эволюционного цикла» независимого от людей, контроль сохраняется.

3.2 Конкурентные преимущества биологии

Биологические тела дешёвы в энергетическом и материальном производстве. Мозг расходует 20 Вт — недостижимая энергоэффективность для кремния в заданной вычислительной плотности.

3.3 Политико-правовые барьеры

Регуляции (EU AI Act, Executive Order США), аудит кода, лицензирование дата-центров, «красные кнопки» — все это снижает вероятность бесконтрольной эскалации.

────────────────────────────────────────

4. Аргументы «за высокий риск замещения»

────────────────────────────────────────

• Гонка корпораций/государств может стимулировать пренебрежение безопасностью.

• Выравнивание (alignment) сложнее, чем изначально казалось: цели могут дрейфовать по мере самосовершенствования моделей.

• Экономический закон: если автономная система в 10 × эффективней, её массово внедрят, а людей вытеснят с рынка.

• Военные применения (автономные дроны, кибер-атаки) увеличивают шанс конфликта «человек vs. ИИ».

────────────────────────────────────────

5. Чего НЕ следует делать: две ловушки

────────────────────────────────────────

Ловушка «технологического детерминизма»

«Раз уж возможно, значит случится неизбежно» — игнорирует социальные рычаги управления.

Ловушка «страуса»

«ИИ всего лишь инструмент, всё под контролем» — игнорирует экспоненциальную скорость улучшений и системные риски.

────────────────────────────────────────

6. Что уменьшает вероятность «вымрем, как неандертальцы»

────────────────────────────────────────

• Инвестиции в alignment-исследования (Anthropic, DeepMind, FHI)

• Международные моратории/стандарты (аналог ДНК-синтеза и ядерного контроля)

• Участие широких слоёв общества в обсуждении целей развития ИИ

• Развитие человеко-машинных интерфейсов (BCI от Neuralink, импланты cochlear), где люди буквально срастаются с вычислителями. Так исчезает дихотомия «мы–они».

────────────────────────────────────────

7. Итоговые вероятностные оценки (условно, сегодня)

────────────────────────────────────────

(компиляция Meta**culus, 2023; индивидуальные оценки разных групп сильно расходятся)

• ≥ 50 % : появление «Human-Level Machine Intelligence» до 2100 г.

• ≈ 20 % : серьёзный глобальный экономико-соц. шок, но без гибели человечества.

• ≈ 10 % : сценарий «экзистенциальная катастрофа именно по вине ИИ».

• < 5 % : полное «вымывание» Homo sapiens как вида при продолжающейся технической цивилизации ИИ.

Цифры не точные, но дают порядок. Многие академические группы ставят риск ещё ниже, активисты — выше; медиана около 5–10 %.

────────────────────────────────────────

8. Практический вывод

────────────────────────────────────────

Вероятность того, что мы «станем лишними» существует, но она достаточно мала, чтобы не считать её неминуемым судьбоносным результатом эволюции, и достаточно велика, чтобы:

1) заниматься инженерией безопасного ИИ;

2) формировать международные нормы;

3) развивать симбиотические технологии усиления человека, а не его замены.

То есть будущее не запрограммировано самой логикой эволюции; оно зависит от совокупных решений учёных, инженеров, политиков и общества."

***

Честно скажу, мне стало не по себе... Ощущение, что ИИ научился лукавить, как взрослый с ребёнком...