Ну вот и дождались! Искусственный интеллект и формирование политики

Популярные произведения давно предупреждают нас о рисках

По мере расширения использования искусственного интеллекта на глобальном уровне многие государства приближаются к реализации национальной политики в области ИИ. Но достаточно ли они близки к этому?

Вот и закончился еще один год цифровой революции XXI века. Технологические достижения последних двух десятилетий гарантируют, что искусственный интеллект (ИИ) станет соперником в будущей деятельности государства, а именно в формировании политики.

Однако внедрение технологий в политику - это вопрос не только алгоритмов и машинного обучения, но и безопасности, стратегии и этики. Вопрос о том, может ли оптимизация - одна из главных целей ИИ - пересекаться с благосостоянием стран и народов, остается без ответа.

Популярные произведения давно предупреждают нас о рисках мира, управляемого технократическими машинами. Ученый Шони Сонг рассматривает это явление, сопоставляя популярный бестселлер "Дюна" с современными примерами событий, связанных с ИИ на мировой арене.






Сонг отмечает, что регулирование ИИ сегодня повторяет проблемы, поднятые в эпическом романе Фрэнка Герберта, в котором машины ИИ и киборги были объявлены вне закона после восстания.

По мнению Сонга, "запрет на "мыслящих" роботов и гораздо более драконовский моральный кодекс, согласно которому люди больше не будут создавать машины "по подобию человеческого разума"", отражается в современных национальных и наднациональных дискуссиях об ИИ.

Такие предложения подпитывают продолжающуюся международную гонку, но не все государства успешно реализуют свои планы.

В новом году ряд государств на один шаг приблизился к выполнению своих политических задач - некоторые из которых требуют срочного решения - в отношении технологий ИИ. Аргентина хочет реализовать национальный план по ИИ к 2029 году.

Китай хочет принять закон Law360, который интегрирует ИИ в судопроизводство, к 2025 году, а ЕС объявил о своем неопределенном плане стать новатором в области этики ИИ еще в 2018 году, признав, что он открыт для изменений в зависимости от будущего новых технологий. Даже ООН хочет включить планы по регулированию ИИ в свои Цели устойчивого развития, намеченные на 2030 год.

Алгоритмическое принятие решений - это пугающая реальность: в худшем случае оно вводит в действие уже существующие предубеждения, в лучшем - заимствует самые сильные черты рабочей силы. Оптимизация сама по себе может быть поляризующей, особенно в международных отношениях.

Как объясняет Сонг, от дела Альфи Эванса в Великобритании до новой инициативы по оценке социальных кредитов в Китае, глобальная обеспокоенность по поводу применения ИИ в политике растет.

Хотя многие опасения могут быть отвергнуты как основанные на истерическом групповом мышлении в духе Дюны, некоторые из них представляют собой вполне обоснованные проблемы.

Например, применение ИИ на глобальном уровне все еще развивается, и до сих пор нет центрального управления с серьезными этическими рамками для регулирования использования и интеграции технологии в государственную политику. Вместо этого основное внимание уделяется созданию принципиальных прецедентов в каждом конкретном случае.

Этот метод, однако, имеет очевидные недостатки: то, что работает в индустрии больших технологий одной страны, может с трудом работать в другой. Такая неравномерность в реализации может позволить технологическим гегемонам играть решающую роль, что приведет к значительным последствиям для тех, кто медленно внедряет новые технологии.

Сонг прогнозирует, что как на национальном, так и на глобальном уровне "конкуренция за превосходство ИИ сведется к тому, у кого будут лучшие и большие данные". В настоящее время "автократические режимы явно имеют конкурентное преимущество в этой области сбора и контроля данных".

Страны, вынужденные ориентироваться на "проблемы гражданской свободы и неприкосновенности частной жизни в связи с идеей Большого Брата, собирающего и использующего их собственные данные посредством различных применений искусственного интеллекта", включая Соединенные Штаты, могут оказаться в шатком, неконкурентоспособном положении.

"Будущее свободного и процветающего мира может быть поставлено на карту", - утверждает Сонг, - "в зависимости от того, кто сформулирует следующее глобальное видение ИИ и какие ценности он представляет".