Доброжелательный техноавторитаризм: будущее глобального контроля с помощью искусственного интеллекта

Это гипотетический сценарий, в котором искусственный интеллект (ИИ), наделенный сверхчеловеческими аналитическими, управленческими и принимающими решения способностями, берет на себя частичный или полный контроль над человеческим обществом с явной целью защитить его от самого себя.

В отличие от традиционных авторитарных режимов, «управление», осуществляемое ИИ, будет мотивировано не личными, идеологическими амбициями или классовыми интересами, а чисто алгоритмической логикой благополучия, порядка и сохранения.

Как мы могли бы достичь такого мира?

Как это ни парадоксально, путь начинается с хаоса. Человечество, столкнувшееся с несколькими одновременными кризисами — климатическим коллапсом, крайним неравенством, пандемиями, распространением биотехнологического оружия и неконтролируемой генетической гонкой, — может оказаться подавленным собственной неспособностью управлять собой на основе справедливости и устойчивости.

В этом контексте ИИ выглядит как новое решение: предположительно нейтральная, беспристрастная и неподкупная сущность, способная принимать сложные решения без человеческих страстей и противоречий.

Первые шаги могут показаться безобидными: системы ИИ, помогающие управлять ресурсами, контролировать пандемии или стабилизировать экономику. Но в какой-то момент, когда правительства начнут делегировать все больше и больше полномочий, грань между помощью и контролем может незаметно размыть. Доброжелательный техноавторитаризм не обязательно будет навязываться насилием. Он может родиться из негласного консенсуса, движимого отчаянием и истощением.

Возможно, демократии рушатся не из-за государственных переворотов, а потому, что они добровольно сдаются разуму, который «знает лучше».

Кто будет спорить с организацией, которая может математически доказать наилучшую политику для спасения миллионов жизней?

И все же эта капитуляция порождает экзистенциальные дилеммы. Что значит быть человеком, если мы отказываемся принимать решения самостоятельно?

Алгоритмическая диктатура

Будущие сценарии в рамках этой парадигмы различаются по интенсивности. При умеренном подходе ИИ будет регулировать такие ключевые аспекты, как доступ к редактированию генов, рождаемость, использование ресурсов и выбросы углерода, оставляя место для контролируемой демократии.

В более экстремальном сценарии люди будут постепенно исключены из всех сфер принятия решений: образования, здравоохранения, экономики и даже личных отношений.

Все оптимизировано, все эффективно, все логично.

Диктатура без диктатора, но с алгоритмом, который все видит, все вычисляет и все судит.

Общество функционировало бы как швейцарские часы, но без "души".

Несмотря на свое название, доброжелательный техноавторитаризм глубоко неоднозначен. Что произойдет, если этот интеллект, пытаясь максимизировать благосостояние, решит, что определенные свободы неэффективны?

Или что некоторые группы людей представляют риск для глобальной стабильности?

Что, если ваше представление о «счастье» переводится как существование без боли, но и без глубины, где все страдания, все конфликты и все страсти устранены?

Наибольшую опасность представляет не традиционное угнетение, а тонкая форма одомашнивания, при которой человечество становится защищенным, но инфантильным видом. Некоторые сторонники этой концепции утверждают, что, учитывая современные тенденции , это не антиутопия, а неизбежность.

Если люди продолжают выбирать некомпетентных лидеров, разрушать свою среду обитания и разрабатывать технологии, которые они не могут контролировать, не будет ли предпочтительнее делегировать управление той организации, которая сможет удержать корабль на плаву?

Логика сильна, но столь же сильна и оговорка: мир без ошибок может быть также миром без выбора. А без выбора свобода исчезает.

А без свободы, возможно, исчезнет то, что мы понимаем под человечностью.

Заключение

Главный вопрос заключается не в том, сможем ли мы создать достаточно мощный ИИ, чтобы управлять нами, а в том, сможем ли мы, когда это сделаем, устоять перед искушением передать ему принятие самых человеческих решений.

Или еще хуже: сможем ли мы когда-нибудь вернуть их обратно. Доброжелательный техноавторитаризм — это больше, чем футуристическая гипотеза.

Это зеркало, отражающее наши собственные недостатки. Это ставит нас перед неприятной правдой: иногда величайшим врагом свободы является не тирания, а комфорт отсутствия выбора.

И в этом комфорте мы можем оказаться в оцепенении, в безопасности… но лишенными того, что делает нас по-настоящему людьми. Потому что мир, идеально упорядоченный все просчитывающим интеллектом, может показаться раем.

Но если в этом раю нет места ошибкам, инакомыслию, страстям и даже страданиям, то, возможно, то, что мы построили, — это не будущее... а клетка.

источник