Исследователи: решения ИИ могут вызвать КАТАСТРОФУ «ядерного уровня»

Опрос, проведенный Стэнфордским университетом среди исследователей обработки естественного языка (НЛП), показал, что искусственный интеллект (ИИ) может принимать катастрофические решения .

Опрос Стэнфордского института человеко-ориентированного искусственного интеллекта (HAI) показал, что 73 процента исследователей НЛП считают, что ИИ может привести к «революционным социальным изменениям». Однако 36 процентов опрошенных исследователей считают, что ИИ может привести к концу света. Опрос был включен в ежегодный отчет HAI по индексу AI , который служит «состоянием союза» в отрасли искусственного интеллекта.

В ходе опроса HAI опросил 327 участников из разных университетов, согласны они или не согласны с этим утверждением: «Вполне возможно, что решения, принятые с помощью ИИ или систем машинного обучения, могут вызвать в этом столетии катастрофу, которая, по крайней мере, будет столь же ужасна, как тотальная ядерная война." Опрос проводился с мая по июнь 2022 года, за несколько месяцев до выпуска ChatGPT.

Эти системы демонстрируют возможности ответа на вопросы, а также генерации текста, изображений и кода, невообразимые десять лет назад, и они превосходят современное состояние во многих тестах, старых и новых», — пишут авторы AI Index Report.

«Однако они склонны к галлюцинациям, регулярно предвзяты и их можно обманом заставить служить гнусным целям, что подчеркивает сложные этические проблемы, связанные с их использованием».

Опасения по поводу искусственного интеллекта растут

В отчете HAI также упоминается опрос рыночной компании IPSOS, который показал, что американцы становятся более осторожными в отношении ИИ по сравнению с представителями других национальностей. Опрос показал, что только 35 процентов американцев согласились с утверждением: «Продукты и услуги, использующие ИИ, имеют больше преимуществ, чем недостатков».

Напротив, участники из других стран согласились с утверждением больше – 78 процентов респондентов приехали из Китая, 76 процентов из Саудовской Аравии и 71 процент из Индии.

В отчете HAI также отмечается, что количество споров, связанных с ИИ, выросло в 26 раз за последнее десятилетие, ссылаясь на данные инициативы AI, Algorithmic and Automation Incidents and Controversies (AIAAIC).

«Согласно базе данных AIAAIC… количество инцидентов и споров, связанных с искусственным интеллектом, увеличилось в 26 раз с 2012 года. Некоторые заметные инциденты в 2022 году включали глубокое фейковое видео сдачи в плен президента Украины Владимира Зеленского и американские тюрьмы, использующие технологию мониторинга звонков своих заключенных. Этот рост является свидетельством как более широкого использования технологий искусственного интеллекта, так и осознания возможностей неправильного использования».

Более того, в отчете британского некоммерческого Центра по борьбе с цифровой ненавистью (CCDH) говорится, что чат-боты могут использоваться для распространения дезинформации и лжи . Фактически, новый чат-бот Google с искусственным интеллектом Бард извергал ложь в 78 из 100 случаев. В CCDH заявили, что Бард даже написал монолог из 227 слов, отрицающий Холокост. В монологе утверждалось, что фотография голодающей девушки в концентрационном лагере на самом деле принадлежала актрисе, которой заплатили за то, чтобы она притворялась голодной. (По теме: Google отстраняет инженера за разоблачение «разумного» чат-бота с искусственным интеллектом .)

Еще в марте 1300 человек, в том числе генеральный директор Twitter Илон Маск и соучредитель Apple Стив Возняк, подписали открытое письмо с призывом приостановить на шесть месяцев обучение систем искусственного интеллекта, выходящих за рамки уровня чат-бота GPT-4. «Мощные системы искусственного интеллекта следует разрабатывать только в том случае, если мы уверены, что их эффекты будут положительными, а риски будут управляемыми», — говорится в письме.

Несмотря на эти опасения, в отчете HAI говорится, что только 41 процент исследователей обработки естественного языка (НЛП) считают, что ИИ следует регулировать .

Посмотрите, как Юваль Ноа Харари из Всемирного экономического форума предупреждает, что ИИ потенциально может отобрать власть у человечества .

Это видео с канала Thrivetime Show на Brighteon.com .

Еще похожие истории:

Стартап по искусственному интеллекту подвергся критике после того, как тролли использовали его инструмент клонирования голоса, чтобы заставить знаменитостей говорить «оскорбительные вещи».

Бывший инженер Google предсказывает БЕССМЕРТИЕ человечества к 2030 году – но какой ценой?

DEAD RISING: ChatGPT на базе искусственного интеллекта для соединения живых и мертвых .

Бот на базе искусственного интеллекта успешно запросил возврат средств у Wells Fargo, используя ФАЛЬШИВЫЙ голос .

https://www.robotics.news/2023-04-18-ai-decisions-could-cause-nuclear-level-catastrophe.html