Остановите искусственный интеллект! 1000 экспертов призывают сделать паузу в обучении искусственного интеллекта

«Пауза гигантских экспериментов с ИИ: открытое письмо» — так называется письмо, которое подписали более 1 технологических и бизнес-лидеров, в том числе Илон Маск.

Институт «Будущее жизни»

В письме, выпущенном Институтом будущего жизни, они просят лаборатории прекратить разработку современных самых передовых систем искусственного интеллекта.

Риск для человечества?

В письме предупреждается: «Системы ИИ с конкурентной разведкой человека могут представлять серьезную опасность для общества и человечества».

Все выходит из-под контроля?

Авторы письма отмечают, что «в последние месяцы лаборатории ИИ заперты в неконтролируемой гонке по разработке и развертыванию все более мощных цифровых умов, которые никто — даже их создатели — не может понять, предсказать или надежно контролировать».

«Смещенный сверхразумный ОИИ может нанести тяжкий вред»

В письме также цитируется сообщение в блоге, в котором OpenAI предупреждает мир о рисках, если искусственный общий интеллект (ОИИ) будет разработан безрассудно: «Несогласованный сверхразумный ОИИ может нанести серьезный вред миру; автократический режим с решающим руководством сверхинтеллекта мог бы сделать то же самое».

Прославленные подписанты

Среди подписантов есть такие прославленные имена, как Илон Маск, Стив Возняк (соучредитель Apple, на фото) или Крейг Питерс (генеральный директор Getty Images).

Протоколы безопасности

Среди предложений, сделанных открытым письмом, — «ввести протоколы безопасности» для систем ИИ, добавив, что для того, чтобы применять эти протоколы, необходимо остановить развитие ИИ более мощного, чем GPT-4.

Вмешательство правительства?

«Если такая пауза не может быть быстро введена, правительства должны вмешаться и ввести мораторий», — просили они.

Фото: Unsplash - Энди Келли

Мощный инструмент

Авторы просят, чтобы фокус развития ИИ изменился, написав: «Исследования и разработки ИИ должны быть переориентированы на то, чтобы сделать сегодняшние мощные, современные системы более точными, безопасными, интерпретируемыми, прозрачными, надежными, согласованными, заслуживающими доверия и лояльными».

Фото: Unsplash - Бойтумело Пхетла

Слишком много ошибок (на данный момент)

Хитрость, говорят они, заключается в том, что эти инструменты были несовершенны в деталях, наряду с огромной способностью распространять дезинформацию.

Фото: Unsplash - Дрю Диззи Грэм