Илон Маск предупреждает о серьезной опасности, которую ИИ может представлять для человечества
David Paul Morris / Bloomberg via Getty Images
Генеральный директор Twitter Илон Маск во время интервью во вторник вечером заявил, что правительству нужен план физического отключения электросети в районах, где размещены “сверхмощные” серверы искусственного интеллекта, на случай, если человечество когда-либо потеряет контроль над ИИ.
Маск сказал ведущему Fox News Такеру Карлсону, что “действительно сверхмощный интеллект” будет сосредоточен лишь в ограниченном количестве областей на земле и что он будет настолько сконцентрирован, что их можно будет обнаружить из космоса по их тепловой сигнатуре."
“Я не предлагаю пойти и взорвать сервисные центры прямо сейчас, но могут быть некоторые — возможно, было бы разумно иметь какой-то план действий на случай непредвиденных обстоятельств, когда у правительства есть возможность отключить питание в этих сервисных центрах”, -сказал он. “Как будто вам не нужно это взрывать. Вы можете просто отключить питание ”.
Отвечая на вопрос, в какой момент, возможно, пришло время отключить питание, Маск сказал, что если люди “по какой-то причине потеряют контроль над каким-то супер-ИИ, например, над вещами, которые обычно работают для пассивного отключения, например, пароли администратора, если они каким-то образом перестанут работать там, где мы не можем замедлиться или выйти”.
Смотреть:
https://twitter.com/i/status/1648486741190524928
Илон Маск говорит, что должен быть какой-то “выключатель” на случай, если мы потеряем контроль над ИИ pic.twitter.com/dIlXIs4feR
— Бенни Джонсон (@bennyjohnson) 19 апреля 2023 года
РАСШИФРОВКА:
ТАКЕР КАРЛСОН: Вы слышали, как люди говорят, что мы должны просто взорвать серверные фермы, потому что, как только это начнется, замедлить это невозможно. Что вы об этом думаете?
ИЛОН МАСК: Ну, действительно сверхмощные разведданные не будут распространяться повсюду. Это будет в ограниченном количестве сервисных центров. Если вы говорите, что это очень — очень глубокий ИИ, сверхмощный ИИ.
Это не будет на вашем ноутбуке или телефоне. Это произойдет в ситуации, когда в сервисном центре будет работать около 100 000 действительно мощных компьютеров. Так что это не похоже на хитрость, и есть ограниченное количество мест, где это может произойти.
На самом деле, вы могли бы — если вы можете просто — вы можете просто посмотреть на тепловую сигнатуру из космоса.
КАРЛСОН: Да.
МАСК: И это — это будет совершенно очевидно. Я не предлагаю пойти и взорвать сервисные центры прямо сейчас, но могут быть некоторые — возможно, было бы разумно иметь какой-то план действий на случай непредвиденных обстоятельств, когда у правительства есть возможность отключить питание в этих сервисных центрах. Как будто вам не нужно это взрывать. Вы можете просто отключить питание.
КАРЛСОН: И что сработает —
МАСК: И мы также отключим подключение. Это другой способ.
КАРЛСОН: Верно. Но что может привести к срабатыванию этого переключателя, как вы думаете, в вашем разуме, каким будет порог, который вам нужно будет преодолеть, чтобы правительство дало право отключить ваше питание или отключить ваш сигнал?
МАСК: Ну, я имею в виду, я думаю, что если мы потеряем контроль над каким-нибудь супер-ИИ, например, по какой-то причине, как вещи, которые обычно работают для пассивного отключения, например пароли администратора, если они каким-то образом перестанут работать там, где мы не можем замедлиться или выйти.
Я не уверен. У меня нет точного ответа, но если есть что-то, что нас беспокоит, и мы не можем остановить это программными командами, тогда мы, вероятно, захотим иметь какой-то аппаратный выключатель.
КАРЛСОН: Да.
МАСК: Я думаю, вы знаете, это не повредит.
19 апреля 2023 г.
Перевод оригинальной статьи Роман Тепляков
