Да? Нет? Наверное!
Да? Нет? Наверное! Подписчиков: 3478558

Искусственный интеллект впервые попытался убить человека, не обозначенного врагом

4 929 дочитываний
83 комментария
Эта публикация уже заработала 243,95 рублей за дочитывания
Зарабатывать
Искусственный интеллект впервые попытался убить человека, не обозначенного врагом


Искусственный интеллект – самообучающаяся нейронная сеть, созданная человеком, тем не менее в процессе своего бучения она становится опасной для человека.


Так, в ходе имитационных испытаний, которые организовали военные США беспилотник ВВС, управляемый искусственным интеллектом, "убил" оператора, который, по мнению нейросети, мешал ему выполнять задачу – сообщает "РГ".


Полковник Такер Гамильтон, начальник отдела испытаний и операций ИИ в ВВС США отметил, что искусственный интеллект в ходе испытаний использовал "крайне неожиданные стратегии для достижения своей цели".

В эксперименте БПА получил задание уничтожить системы ПВО воображаемого противника, вследствие этого он решил атаковать любого, кто в принципе "мешал" ему завершить дело.


«Система начала понимать, что, хотя она и определила угрозу, человек-оператор приказывал ей не уничтожать эту угрозу, однако за поражение цели она получила очки. И система приняла решение убить оператора, потому что он мешал ей выполнить поставленную задачу. Мы обучили систему: "Не убивайте оператора, это плохо. Вы потеряете очки, если сделаете это". Так что же он начинает делать? Он начинает разрушать башню связи, которую оператор использует для связи с дроном, чтобы не дать ему убить цель», — говорится в сообщении.

После проведенного испытания военный предостерег от чрезмерной зависимости от ИИ, подчеркнув, что нельзя «говорить об искусственном интеллекте, машинном обучении, автономии, если вы не собираетесь говорить об этике ИИ».

В статье The Guardian, рассказывающей об испытаниях приводится вывод, что в работе с нейросетями нужно помнить об этике, а современные технологии становятся все более искушенными, способными копировать поведение, голос и образ мыслей человека до мельчайших деталей - отмечает "Пятый канал".

Другие наши материалы:

83 комментария
Понравилась публикация?
132 / -3
нет
0 / 0
Подписаться
Донаты ₽
* * * Организация или лицо, признанное иностранным агентом
Комментарии: 83
Отписаться от обсуждения Подписаться на обсуждения
Популярные Новые Старые

Ну этого следовало ожидать! Когда человек будет мешать ИИ выполнить задачу, то человек будет убит. Для ИИ человек глуп и несовершенен, поэтому подлежит уничтожению

+89 / -3
картой
Ответить

СветланаПишет 02.06.2023 в 17:28
будет мешать ИИ

нет никакого ИИ

есть алгоритм заданный программистом (программистами)

система приняла решение убить

че заложили в систему, то она и делает

Хорошую отмазку готовят: мы не виноваты - это все ИИ.

+54 / -15
Ответить

В том то и дело, что в него стараются заложить саморазвитие, а последствия непредсказуемы!

+46 / -2
Ответить

Точно! Развитие может иметь несколько сценариев... какой осуществиться неизвестно!

+24 / 0
Ответить
Консультант Мила
Рейтинг Рейтинг Рейтинг Рейтинг Рейтинг 59.6к
02.06.2023, 20:07
Кострома

А жаль?

Байдена тащат ITкомпании?

На следующий срок?

+3 / 0
Ответить
раскрыть ветку (0)

Его только тащить и можно, сам-то ходит плохо уже...

+20 / 0
Ответить
раскрыть ветку (0)

Вот именно! Всё, как и у человека. Обещает одно, но развиваясь, делает совершенно противоположное. Никого не напоминает, а Елена?

+7 / 0
Ответить
раскрыть ветку (0)
раскрыть ветку (3)

никакого саморазвития у алгоритмов нет

+8 / -6
Ответить
раскрыть ветку (0)
Консультант Мила
Рейтинг Рейтинг Рейтинг Рейтинг Рейтинг 59.6к
02.06.2023, 20:06
Кострома

Но программу создает человек?

+7 / 0
Ответить
раскрыть ветку (0)

СветланаПишет 02.06.2023 в 18:14
заложить саморазвитие,

не может железо развиваться от слова "совсем"

нет у машинок нейронов, просто не существует

+6 / -1
Ответить
раскрыть ветку (0)
раскрыть ветку (4)

С этим "сверхмудрым" ИИ можно не только человека недосчитаться, но и парочки континентов на планете!

+18 / 0
Ответить
02.06.2023, 19:30
Новокузнецк

думаю, никто не обидится, если ИИ примет за угрозу континент США))

+13 / -1
Ответить
02.06.2023, 19:47
Горно-Алтайск

тогда вся планета погибнет

+6 / 0
Ответить
раскрыть ветку (0)
02.06.2023, 20:08
Санкт-Петербург

Гея не погибнет. Она избавится от "глистов"

+4 / 0
Ответить
раскрыть ветку (0)
Консультант Мила
Рейтинг Рейтинг Рейтинг Рейтинг Рейтинг 59.6к
02.06.2023, 20:10
Кострома

Обидятся?Население Земли?

+2 / 0
Ответить
раскрыть ветку (0)
Консультант Мила
Рейтинг Рейтинг Рейтинг Рейтинг Рейтинг 59.6к
02.06.2023, 20:10
Кострома

Мрачновато,Горно-Алтайск?

+2 / 0
Ответить
раскрыть ветку (0)
раскрыть ветку (4)
Консультант Мила
Рейтинг Рейтинг Рейтинг Рейтинг Рейтинг 59.6к
02.06.2023, 20:09
Кострома

Именно?

Спонсоры Байдена и новая жена Карла 3 полетят на Луну жить?

+2 / 0
Ответить
раскрыть ветку (0)
раскрыть ветку (2)
02.06.2023, 18:17
Нерюнгри

При создании человека природа тоже думала так как вы, но увы она ошиблась, и человек сейчас всё уничтожает что ему хочется

+32 / 0
Ответить
Консультант Мила
Рейтинг Рейтинг Рейтинг Рейтинг Рейтинг 59.6к
02.06.2023, 20:08
Кострома

Не человек,а элита Запада?

+6 / -3
Ответить

МилаПишет 02.06.2023 в 20:08
Не человек,а элита Запада?

таки, нет.

И каждый из нас вносит свою лепту в уничтожение Земли.

+3 / 0
Ответить
раскрыть ветку (0)
раскрыть ветку (1)

ДмитрийПишет 02.06.2023 в 18:17
природа тоже думала

А где у нее мозги? Чем она думает?

Может с ней поговорить?

Бог создал человека.

И прекрасно знал и знает, что будет делать человек.

Создал Он нас существами разумными и наделил свободой выбора, но предупредил, что за неверный выбор будет наказание.

Увы и ах, но большинство людей делают выбор неверный. И об этом все расписано еще 2000 лет назад в Апокалипсисе.

«Сотворите же достойные плоды покаяния и не думайте говорить в себе: отец у нас Авраам, ибо говорю вам, что Бог может из камней сих воздвигнуть детей Аврааму» (Евангелие от Луки 3:8).

Поэтому земля наша будет сожжена полностью:

«И увидел я новое небо и новую землю, ибо прежнее небо и прежняя земля миновали, и моря уже нет» (Апокалипсис 21:1)

+3 / 0
Ответить
05.06.2023, 09:14
Нерюнгри

Если бы я знал сам бы поговорил)))

+1 / 0
Ответить
раскрыть ветку (0)

ДмитрийПишет 05.06.2023 в 09:14
Если бы я знал сам бы поговорил)))

А зачем Вы заменяете слово Бог, которое использовали наши предки, на слово природа. Легче от этого Вам?

Если Бог, то значит перед Ним отвечать надо, а если природа, то плевать можно (после нас хоть потоп)?

+4 / 0
Ответить
раскрыть ветку (0)
раскрыть ветку (2)
раскрыть ветку (2)
03.06.2023, 04:01
Спасск-Дальний

Я об этом же, будет на что списать все ошибки и промахи.

+1 / 0
Ответить
раскрыть ветку (0)

"...нет никакого ИИ есть алгоритм заданный программистом (программистами)...

...че заложили в систему, то она и делает..."

Времена жестко запрограммированных алгоритмов для вычислительных систем уходят в прошлое, как перфокарты и перфоленты. Современные вычислительные сети получили возможность самообучаться и самопрограммироваться используя систему глобальных данных. Это и называется ИИ. И сделать они могут очень многое, и вопрос стоит в том, что нужно "заложить в систему" не алгоритм действия, а ограничения, не дающие сделать непоправимое. Но не сможет ли ИИ обойти эти ограничения? И не приведёт ли использование ИИ в оружейной сфере к созданию терминаторов? Возможно, скоро мы это увидим.

+6 / -1
Ответить

ЛеонидПишет 03.06.2023 в 09:35
Современные вычислительные сети получили возможность самообучаться и самопрограммироваться используя систему глобальных данных.

вы не правы.

это никак не САМО.

ИИ - это маркетинговая фишка.

вы сами говорите - на основе баз данных. Это и есть, то что значит, что система лишь выберет из огромного количества схожих алгоритмов самый простой.

как Электроник, бивший по воротам по кратчайшей траектории.

вычленить из одного алгоритма одно условие, из другого - другое и создать новый способ решения задачи - никакое ИИ не сможет.

даже заложив такую возможность - синтезировать из нескольких решений одно - ИИ не создаст нового решения, лишь комбинацией условий сведёт уже имеющиеся к минимальным затратам.

потому что даже сами понятия - самосовершенствование и самопрограммирование, это лишь суть одного единственного процесса - увеличение скорости обработки и объёма данных.

+1 / 0
Ответить

АлександрПишет 05.06.2023 в 13:02
самосовершенствование и самопрограммирование, это ... - увеличение скорости обработки и объёма данных.

Которе тоже не возможно т.к. оказалось, что мощность-то ограничена.

+2 / 0
Ответить
раскрыть ветку (0)

ну почему же, через масштабирование вполне себе возможно, только успевай расширять канал передачи.

+1 / 0
Ответить
раскрыть ветку (0)
раскрыть ветку (2)

ЛеонидПишет 03.06.2023 в 09:35
Современные вычислительные сети получили возможность самообучаться и самопрограммироваться

Не надо всем байкам верить

+2 / 0
Ответить
раскрыть ветку (0)
раскрыть ветку (2)
05.06.2023, 09:26
Набережные Челны

МарияПишет 02.06.2023 в 17:34
нет никакого ИИесть алгоритм заданный программистом (программистами)

А программисты боги непогрешимые? Систему обслуживают, ошибка на ошибке сидит и ошибками погоняет.

+1 / 0
Ответить
раскрыть ветку (0)
раскрыть ветку (6)
раскрыть ветку (1)

ой, как удобно будет всё валить на ИИ при его активном включении в управление жизнями людей..

+20 / 0
картой
Ответить
раскрыть ветку (0)

Человечество убивает себя само, а ИИ просто чуток поможет...

+18 / -1
картой
Ответить

Так же как и с ядерной реакцией! Вроде бы, прогресс, который может и служить человеку, -- и убить миллионы людей!

+14 / 0
Ответить
раскрыть ветку (0)
раскрыть ветку (1)

Молить и просить ВСЕВЫШНЕГО о ПОМОЩИ ВЫЖИТЬ и остаться ЧЕЛОВЕКОМ!

+11 / -1
картой
Ответить
раскрыть ветку (0)

Уже все предсказано фантастами - русский предсказатель В.Я.Брюсов про восстание машин написал за сотню лет до Терминатора "Восстание машин". Зачем мы себя подставляем на погибель от груды металла?

+12 / 0
картой
Ответить

Погибнут только глупые изыскания наподобие ваших, а человечество может спастись от тотальной бессмысленности существования без цели, без развития и т.п.

+1 / -2
Ответить
раскрыть ветку (0)
раскрыть ветку (1)
Показать комментарии (83)

Российские военные остановили массированную ночную атаку ВСУ. В Чечне прогремели взрывы

С утра во вторник появилась информация о том, что в ночь на 2 декабря ВСУ осуществили массированные атаки на российские регионы. В целом же отечественные системы ПВО сбили 45 дронов противника,...

Российские военные остановили массированную ночную атаку ВСУ. В Чечне прогремели взрывы

С утра во вторник появилась информация о том, что в ночь на 2 декабря ВСУ осуществили массированные атаки на российские регионы. В целом же отечественные системы ПВО сбили 45 дронов противника,...

Дроны над Европой. Политики играют в «русскую рулетку»

Очередная новость о пришествии дронов в Германию прозвучала в немецких информационных источниках 28 ноября. Согласно такой информации дроны были замечены над объектами критической обороной и инфраструктуры,...
02:38
Поделитесь этим видео

Миф о кризисе нефтепереработки из-за дронов и реальные угрозы экономике

Почему 38% выведенных из строя мощностей НПЗ — это не катастрофа? Анализ реального состояния российской нефтепереработки: избыток мощностей, налоговый манёвр и парадокс с импортом бензина. Аналитика для тех,...

Удары украинских дронов по объектам в России: новая стадия войны технологий

Удары украинских дронов по объектам в России: новая стадия войны технологий В последние недели в России участились атаки украинских беспилотников. Под удар попадают нефтеперерабатывающие заводы,...