«Мы создаем мозг для мира». Сэм Альтман предупреждает, что мы уже пересекли точку невозврата для искусственного сверхинтеллекта

«Мы проходим через технологическую сингулярность, и делаем это на удивление гладко».

Так Сэм Альтман начинает свою последнюю запись в блоге под названием «Нежная сингулярность», в которой он размышляет о стремительном развитии искусственного интеллекта (ИИ) и предвидит ближайшее будущее, в котором преобразования будут столь же глубокими, сколь и неизбежными.

По словам предпринимателя, человечество уже пересекло «горизонт событий»: точку невозврата в эволюции ИИ.

Хотя мы пока не живем с роботами, разгуливающими по улицам, и не имеем лекарства от всех болезней, уже существуют системы, которые умнее людей в различных конкретных задачах, способные экспоненциально усиливать наши возможности.

«ChatGPT уже во многих отношениях превосходит по мощности любого человека, когда-либо существовавшего», — говорит Альтман.

В его видении прогресс не только продолжится, но и значительно ускорится.

В то время как 2025 год знаменует собой появление агентов, выполняющих сложные когнитивные задачи, такие как написание кода, 2026 год принесет системы, способные генерировать инновационные идеи, а к 2027 году мы сможем увидеть роботов, выполняющих физические задачи в реальном мире.

Это ускорение стало возможным благодаря ключевому явлению: ИИ, движущей развитие большего и лучшего ИИ. Альтман описывает это как «личиночную версию автоматического рекурсивного улучшения», где существующие системы уже обеспечивают все более быстрые научные достижения.

Экономическое воздействие также огромно. Развитие этих технологий вызвало «цепную реакцию», когда каждый прорыв порождает инфраструктуру, которая позволяет достичь еще большего прогресса. Это может привести к появлению роботов, которые строят роботов, и даже самовоспроизводящихся центров обработки данных.

Одно из самых радикальных предсказаний генерального директора OpenAI заключается в том, что стоимость искусственного интеллекта может приблизиться к стоимости потребления электроэнергии. Например, средний запрос ChatGPT потребляет около 0,34 ватт-часов, что эквивалентно включению эффективного светодиодного освещения на две минуты.

Мозг для мира

Несмотря на шок, Альтман подчеркивает способность человека к адаптации. Хотя традиционные рабочие места будут потеряны, появятся новые возможности, а созданное богатство позволит исследовать ранее немыслимые идеи социальной политики.

«Мы не примем новый общественный договор в одночасье, но когда мы оглянемся назад через несколько десятилетий, мы увидим, что постепенные изменения привели к чему-то огромному», — говорит он.

Кроме того, он предупреждает об этических и социальных проблемах, которые сопровождают эти достижения. Необходимо срочно решить проблему согласования: обеспечить, чтобы системы ИИ действовали в соответствии с долгосрочными интересами человека, а не просто оптимизировали немедленные результаты, как это сейчас происходит с алгоритмами социальных сетей. Он также считает крайне важным демократизировать доступ к сверхразуму, не допуская его концентрации в руках нескольких стран или корпораций.

«Мы создаем мозг для мира», — пишет Альтман.

«Он будет крайне персонализированным, ограниченным только нашими идеями».

С оптимистичным взглядом, но осознавая риски, генеральный директор приходит к выводу, что сингулярность не будет хаотичным скачком, а скорее плавной экспоненциальной кривой, по которой мы уже начали подниматься.

По его мнению, цель сейчас не в том, чтобы избежать ее, а в том, чтобы гарантировать, что мы пройдем ее безопасно, справедливо и с пользой для всего человечества.

источник