Маск: Правительствам необходимо иметь план отключения питания ‘сверхмощных’ серверов ИИ на случай, если люди потеряют контроль

Илон Маск предупреждает о серьезной опасности, которую ИИ может представлять для человечества

David Paul Morris / Bloomberg via Getty Images

Генеральный директор Twitter Илон Маск во время интервью во вторник вечером заявил, что правительству нужен план физического отключения электросети в районах, где размещены “сверхмощные” серверы искусственного интеллекта, на случай, если человечество когда-либо потеряет контроль над ИИ.

Маск сказал ведущему Fox News Такеру Карлсону, что “действительно сверхмощный интеллект” будет сосредоточен лишь в ограниченном количестве областей на земле и что он будет настолько сконцентрирован, что их можно будет обнаружить из космоса по их тепловой сигнатуре."

“Я не предлагаю пойти и взорвать сервисные центры прямо сейчас, но могут быть некоторые — возможно, было бы разумно иметь какой-то план действий на случай непредвиденных обстоятельств, когда у правительства есть возможность отключить питание в этих сервисных центрах”, -сказал он. “Как будто вам не нужно это взрывать. Вы можете просто отключить питание ”.

Отвечая на вопрос, в какой момент, возможно, пришло время отключить питание, Маск сказал, что если люди “по какой-то причине потеряют контроль над каким-то супер-ИИ, например, над вещами, которые обычно работают для пассивного отключения, например, пароли администратора, если они каким-то образом перестанут работать там, где мы не можем замедлиться или выйти”.

Смотреть:

https://twitter.com/i/status/1648486741190524928

Илон Маск говорит, что должен быть какой-то “выключатель” на случай, если мы потеряем контроль над ИИ pic.twitter.com/dIlXIs4feR

— Бенни Джонсон (@bennyjohnson) 19 апреля 2023 года

РАСШИФРОВКА:

ТАКЕР КАРЛСОН: Вы слышали, как люди говорят, что мы должны просто взорвать серверные фермы, потому что, как только это начнется, замедлить это невозможно. Что вы об этом думаете?

ИЛОН МАСК: Ну, действительно сверхмощные разведданные не будут распространяться повсюду. Это будет в ограниченном количестве сервисных центров. Если вы говорите, что это очень — очень глубокий ИИ, сверхмощный ИИ.

Это не будет на вашем ноутбуке или телефоне. Это произойдет в ситуации, когда в сервисном центре будет работать около 100 000 действительно мощных компьютеров. Так что это не похоже на хитрость, и есть ограниченное количество мест, где это может произойти.

На самом деле, вы могли бы — если вы можете просто — вы можете просто посмотреть на тепловую сигнатуру из космоса.

КАРЛСОН: Да.

МАСК: И это — это будет совершенно очевидно. Я не предлагаю пойти и взорвать сервисные центры прямо сейчас, но могут быть некоторые — возможно, было бы разумно иметь какой-то план действий на случай непредвиденных обстоятельств, когда у правительства есть возможность отключить питание в этих сервисных центрах. Как будто вам не нужно это взрывать. Вы можете просто отключить питание.

КАРЛСОН: И что сработает —

МАСК: И мы также отключим подключение. Это другой способ.

КАРЛСОН: Верно. Но что может привести к срабатыванию этого переключателя, как вы думаете, в вашем разуме, каким будет порог, который вам нужно будет преодолеть, чтобы правительство дало право отключить ваше питание или отключить ваш сигнал?

МАСК: Ну, я имею в виду, я думаю, что если мы потеряем контроль над каким-нибудь супер-ИИ, например, по какой-то причине, как вещи, которые обычно работают для пассивного отключения, например пароли администратора, если они каким-то образом перестанут работать там, где мы не можем замедлиться или выйти.

Я не уверен. У меня нет точного ответа, но если есть что-то, что нас беспокоит, и мы не можем остановить это программными командами, тогда мы, вероятно, захотим иметь какой-то аппаратный выключатель.

КАРЛСОН: Да.

МАСК: Я думаю, вы знаете, это не повредит.

19 апреля 2023 г.

Перевод оригинальной статьи Роман Тепляков