ИИ рискует привести человечество к «вымиранию», предупреждают эксперты

Это самая последняя из серии тревог, поднятых экспертами в области искусственного интеллекта, но также и та, которая вызвала растущую неприязнь к тому, что, по-видимому, является раздутым гипотетическим вредом.

Кевин Кольер

Многие из крупнейших имен в области искусственного интеллекта подписали краткое заявление, предупреждающее, что их технология может означать конец человеческой расы.

В опубликованном во вторник полном заявлении говорится: «Снижение риска исчезновения из-за ИИ должно быть глобальным приоритетом наряду с другими рисками социального масштаба, такими как пандемии и ядерная война».

Заявление было размещено на сайте Центра безопасности ИИ, некоммерческой организации из Сан-Франциско. Его подписали почти 400 человек, в том числе некоторые из самых громких имен в этой области — Сэм Альтман, генеральный директор OpenAI, компании, стоящей за ChatGPT, а также топ-менеджеры по искусственному интеллекту из Google и Microsoft и 200 ученых.

Это заявление является последним из серии тревог, высказанных экспертами по ИИ, но также и заявлением, которое вызвало растущую неприязнь к тому, что некоторые считают преувеличенным гипотетическим вредом от ИИ.

Мередит Уиттакер, президент приложения для обмена зашифрованными сообщениями Signal и главный советник AI Now Institute, некоммерческой группы, занимающейся этическими методами ИИ, высмеяла заявление, поскольку технические лидеры слишком обещают свой продукт.

Клеман Деланг, соучредитель и генеральный директор компании Hugging Face, занимающейся искусственным интеллектом, опубликовал в Твиттере изображение отредактированной версии заявления, которое было добавлено в «AGI» для искусственного интеллекта.

AGI означает искусственный общий интеллект, который представляет собой теоретическую форму ИИ, способного так же или даже больше, чем люди.

Заявление было сделано через два месяца после того, как другая группа лидеров ИИ и технологий, в том числе владелец Tesla Илон Маск, соучредитель Apple Стив Возняк и главный научный сотрудник IBM Грэди Буч, подписали петицию, призывающую к «паузе» во всех крупномасштабных ИИ. исследование, которое было открыто для общественности. Никто из них пока не подписал новое заявление, и такой паузы не было.

Альтман, который неоднократно призывал к регулированию ИИ, очаровал Конгресс в начале этого месяца. Он провел частный ужин с десятками членов Палаты представителей и стал предметом дружеского слушания в Сенате, где он стал тем редким техническим руководителем, которого обе стороны полюбили.

Призывы Альтмана к регулированию имели свои пределы. На прошлой неделе он заявил, что OpenAI может покинуть Европейский союз, если ИИ станет «чрезмерно регулируемым».

Хотя Белый дом объявил о некоторых планах по решению проблемы ИИ, нет никаких признаков того, что у Соединенных Штатов есть ближайшие планы по крупномасштабному регулированию отрасли.

Гэри Маркус, ведущий критик ИИ и почетный профессор психологии и нейронауки в Нью-Йоркском университете, сказал, что, хотя потенциальные угрозы со стороны ИИ вполне реальны, беспокойство только о гипотетическом наихудшем сценарии отвлекает.

Буквальное исчезновение — это лишь один из возможных рисков, который еще недостаточно изучен, и есть много других рисков, связанных с ИИ, которые также заслуживают внимания», — сказал он.

Некоторые технические эксперты говорят, что более приземленное и непосредственное использование ИИ представляет большую угрозу для человечества. Президент Microsoft Брэд Смит сказал, что его больше всего беспокоят дипфейки и возможность их использования для дезинформации.

На прошлой неделе рынки ненадолго упали после того, как фальшивое, по-видимому, сгенерированное искусственным интеллектом изображение взрыва возле Пентагона стало вирусным в Твиттере.

Источник