Майкл Осборн - профессор машинного обучения в Оксфордском университете и соучредитель Mind Foundry:
Последние несколько месяцев были, безусловно, самыми захватывающими за все 17 лет моей работы над искусственным интеллектом. Среди многих других достижений, ChatGPT от OpenAI - тип ИИ, известный как большая языковая модель - в январе побил рекорды и стал самым быстрорастущим потребительским приложением всех времен, достигнув 100 миллионов пользователей за два месяца.
Никто не знает наверняка, что будет дальше с ИИ. Слишком многое происходит, на слишком многих фронтах, за слишком многими закрытыми дверями. Однако мы точно знаем, что ИИ теперь в руках всего человечества, и, как следствие, мир, похоже, не будет прежним.
Такой трансформационный потенциал обусловлен тем, что ИИ - это технология общего назначения, одновременно адаптивная и автономная, хранящая в себе часть той магии, которая привела людей к перестройке Земли.
ИИ - одна из немногих практических технологий, которая может позволить нам полностью перестроить нашу экономику для достижения концепции чистого нуля (Net Zero). Например, мы с коллегами используем ИИ для прогнозирования непостоянных возобновляемых источников энергии (таких как солнце, приливы и ветер), для оптимизации размещения зарядных устройств для электромобилей для обеспечения равного доступа, а также для лучшего управления и контроля батарей.
Однако даже если ИИ приведет к большим экономическим выгодам, некоторые профессии могут оказаться в проигрыше. В настоящее время ИИ используется для автоматизации некоторых видов работы копирайтеров, инженеров-программистов и даже модельеров одежды (профессия, которую мы с экономистом Карлом Фреем в 2013 году оценили, как имеющую 98%-ную вероятность автоматизации).
По оценкам OpenAI, почти каждый пятый американский работник может столкнуться с тем, что половина его задач будет автоматизирована с помощью больших языковых моделей. Конечно, ИИ также может создать рабочие места, но многие работники все еще могут столкнуться с нестабильностью и сокращением заработной платы - например, водители такси в Лондоне столкнулись с сокращением заработной платы примерно на 10% после появления Uber.
ИИ также предлагает новые инструменты для пропаганды. По данным Amnesty International, алгоритмы всем известной социальной сети Марка Цукерберга, поощряя язык ненависти, внесли существенный вклад в зверства, совершенные военными Мьянмы против народа рохинья в 2017 году.
Возможно, самым тревожным является то, что ИИ может угрожать нашему выживанию как вида. В опросе, проведенном в 2022 году (хотя и с вероятным отбором), 48% исследователей ИИ считают, что ИИ имеет значительные (более 10%) шансы привести к вымиранию человека. Начнем с того, что стремительно развивающийся, неопределенный прогресс ИИ может поставить под угрозу баланс глобального мира. Например, подводные беспилотники с ИИ, способные обнаружить ядерные подводные лодки, могут привести к тому, что какая-либо военная держава воспримет это как провокацию.
Если вы думаете, что ИИ никогда не сможет стать достаточно умным, чтобы захватить мир, обратите внимание, что мир только что захватил простой коронавирус. То есть, интересы достаточно большого количества людей (например, "мне нужно ходить на работу, несмотря на кашель, иначе я не смогу прокормить свою семью") совпали с интересами очевидно вредного патогена, и мы позволили вирусу Sars-CoV-2 убить 20 миллионов человек и вывести из строя еще многие десятки миллионов. То есть, рассматриваемый как инвазивный вид, ИИ может обезлюдить или даже уничтожить человечество, изначально работая в рамках существующих институтов.
Например, захват ИИ может начаться с того, что транснациональная корпорация будет использовать свои данные и свой ИИ для поиска лазеек в правилах, эксплуатации работников, обмана потребителей, получения политического влияния, пока весь мир не окажется под властью ее бюрократической, машинной силы.
Что мы можем сделать со всеми этими рисками? Ну, нам нужны новые, смелые стратегии управления как для устранения рисков, так и для максимизации потенциальных преимуществ ИИ - например, мы хотим обеспечить, чтобы не только крупнейшие компании могли нести сложное нормативное бремя. Нынешние усилия по управлению ИИ либо слишком легковесны (как, например, регуляторный подход Великобритании), либо слишком медленны (как, например, закон ЕС об ИИ, который находится в разработке уже два года, что в восемь раз больше, чем потребовалось ChatGPT, чтобы достичь 100 миллионов пользователей).
Нам нужны механизмы международного сотрудничества для разработки общих принципов и стандартов для избежание непредсказуемых последствий. Мы должны признать, что ИИ включает в себя множество различных технологий и, следовательно, требует различных правил. Прежде всего, хотя мы не можем точно знать, что произойдет дальше в области ИИ, мы должны начать принимать соответствующие меры предосторожности уже сейчас.
68.8к
