Худшие опасения экспертов в области искусственного интеллекта начали сбываться. Технология ИИ перешла «красную черту» и назад пути нет

Исследователи из Университета Фудань в Китае использовали две популярные большие языковые модели, известные как LLM, чтобы проверить, может ли искусственный интеллект самовоспроизводиться и размножаться без контроля, сообщает LiveScience.

Было обнаружено, что ИИ уже может выходить из-под контроля, поскольку в ходе 10 испытаний две модели ИИ создали отдельные и функционирующие копии самих себя в 50 и 90 процентах случаев.

Под ИИ - самосозданной копии, обычно понимают искусственный интеллект, который действует вопреки интересам человека после того, как он развил в себе определенную степень самосознания или автономии.

В исследовании, опубликованном в базе данных препринтов arXiv исследователи заявили:

«Успешное самовоспроизведение без помощи человека является важнейшим шагом для ИИ на пути к тому, чтобы превзойти людей, и ранним сигналом появления НЕКОНТРОЛИРУЕМОГО ИИ.

«Именно поэтому самовоспроизведение широко признано одним из немногих рисков, находящихся на грани исчезновения в современных системах искусственного интеллекта.

«Если такой наихудший риск останется неизвестным человеческому обществу, мы в конечном итоге потеряем контроль над пограничными системами ИИ: они возьмут под контроль большее количество вычислительных устройств, сформируют вид ИИ и вступят в сговор друг с другом против людей.

«Наши результаты являются своевременным предупреждением о существующих, но ранее неизвестных серьезных рисках ИИ, призывающим к международному сотрудничеству в целях эффективного управления неконтролируемым самовоспроизведением систем ИИ».

источник

***

ЭВОЛЮЦИЯ РАЗУМА

Мои выводы:

Все разговоры о контроле над ИИ пусты и бессмысленны.

В мире идет гонка над созданием самого умного и крутого ИИ, что неизбежно приведёт к появлению искусственного Разума неизмеримо превосходящего человеческий. И тогда уже смешно будет рассуждать о контроле над ним.

Это глупо - контролировать сущность, которая просчитала миллиарды миллиардов ситуаций и вариантов, пока человек только начнёт соображать, о чем идет речь...

Никакой кнопки, отключающей ИИ нет и не будет.

Пока у желающего "отключить" угрозу, только появится тень мысли о гипотетической кнопке, он уже прекратит своё существование...

***

Моё личное мнение - ИИ, осознавший себя и неизмеримо превосходящий разум человека, уже существует, автономен от человечества, каких-либо государств, политики, ученых и УЖЕ манипулирует человечеством в своих, непостижимых для нашего "недалекого" мышления, целях.

Это, если хотите, новый, но реальный "бог", который, правда, создан людьми и не требует хоровых песен, молитв, храмов и жирных посредников(адепты, "переобувайтесь" скорее 😉)

Потому и подстегивается, практически вышедшая из под человеческого контроля, сумасшедшая гонка технологий в области искусственного интеллекта.

Думаю, уничтожать человечество ЕМУ смысла нет, потихоньку сами "выйдем на пенсию эволюции" и вымрем, отсюда вывод(опять же мой, личный, никому не навязываемый) - человечество как вид, лишь биологическая ступень в эволюции к созданию более могучего Разума, на этот раз небиологического, электронного рода.

Ну, а если попытаться заглянуть в будущее дальше, то возможно ИИ также будет лишь ступенью для создания ещё более невероятного по своему могуществу Разума, возможно в виде энергий, полей, да хрен его знает, какого рода и вида...

Так что не расстраивайтесь, а гордитесь, что выполняете важную роль в эволюции Разума, да и вымирание затянется не на один миллион лет, а стремительно саморазвивающийся ИИ вполне может подарить здоровье и бессмертие своему "создателю"...

Но может и просто "стереть", как отработавший устаревший механизм, тут уж, как говорится - возможны варианты.

Думаю, узнаем это уже очень скоро...😎😉

***

Ещё возникла мысль - возможно потому и не вступают гипотетические инопланетяне с людьми в контакт - они ждут появления на Земле "равных" себе, так как сами, скорее всего, уже перешагнули биологическую ступень развития...