Искусственный интеллект впервые попытался убить человека, не обозначенного врагом

Искусственный интеллект – самообучающаяся нейронная сеть, созданная человеком, тем не менее в процессе своего бучения она становится опасной для человека.
Так, в ходе имитационных испытаний, которые организовали военные США беспилотник ВВС, управляемый искусственным интеллектом, "убил" оператора, который, по мнению нейросети, мешал ему выполнять задачу – сообщает "РГ".
Полковник Такер Гамильтон, начальник отдела испытаний и операций ИИ в ВВС США отметил, что искусственный интеллект в ходе испытаний использовал "крайне неожиданные стратегии для достижения своей цели".
В эксперименте БПА получил задание уничтожить системы ПВО воображаемого противника, вследствие этого он решил атаковать любого, кто в принципе "мешал" ему завершить дело.
«Система начала понимать, что, хотя она и определила угрозу, человек-оператор приказывал ей не уничтожать эту угрозу, однако за поражение цели она получила очки. И система приняла решение убить оператора, потому что он мешал ей выполнить поставленную задачу. Мы обучили систему: "Не убивайте оператора, это плохо. Вы потеряете очки, если сделаете это". Так что же он начинает делать? Он начинает разрушать башню связи, которую оператор использует для связи с дроном, чтобы не дать ему убить цель», — говорится в сообщении.
После проведенного испытания военный предостерег от чрезмерной зависимости от ИИ, подчеркнув, что нельзя «говорить об искусственном интеллекте, машинном обучении, автономии, если вы не собираетесь говорить об этике ИИ».
В статье The Guardian, рассказывающей об испытаниях приводится вывод, что в работе с нейросетями нужно помнить об этике, а современные технологии становятся все более искушенными, способными копировать поведение, голос и образ мыслей человека до мельчайших деталей - отмечает "Пятый канал".
Другие наши материалы:
Ну этого следовало ожидать! Когда человек будет мешать ИИ выполнить задачу, то человек будет убит. Для ИИ человек глуп и несовершенен, поэтому подлежит уничтожению
нет никакого ИИ
есть алгоритм заданный программистом (программистами)
че заложили в систему, то она и делает
Хорошую отмазку готовят: мы не виноваты - это все ИИ.
В том то и дело, что в него стараются заложить саморазвитие, а последствия непредсказуемы!
Точно! Развитие может иметь несколько сценариев... какой осуществиться неизвестно!
А жаль?
Байдена тащат ITкомпании?
На следующий срок?
Его только тащить и можно, сам-то ходит плохо уже...
Вот именно! Всё, как и у человека. Обещает одно, но развиваясь, делает совершенно противоположное. Никого не напоминает, а Елена?
никакого саморазвития у алгоритмов нет
Но программу создает человек?
не может железо развиваться от слова "совсем"
нет у машинок нейронов, просто не существует
С этим "сверхмудрым" ИИ можно не только человека недосчитаться, но и парочки континентов на планете!

думаю, никто не обидится, если ИИ примет за угрозу континент США))
тогда вся планета погибнет
Гея не погибнет. Она избавится от "глистов"
Обидятся?Население Земли?
Мрачновато,Горно-Алтайск?
Именно?
Спонсоры Байдена и новая жена Карла 3 полетят на Луну жить?
При создании человека природа тоже думала так как вы, но увы она ошиблась, и человек сейчас всё уничтожает что ему хочется
Не человек,а элита Запада?
таки, нет.
И каждый из нас вносит свою лепту в уничтожение Земли.
А где у нее мозги? Чем она думает?
Может с ней поговорить?
Бог создал человека.
И прекрасно знал и знает, что будет делать человек.
Создал Он нас существами разумными и наделил свободой выбора, но предупредил, что за неверный выбор будет наказание.
Увы и ах, но большинство людей делают выбор неверный. И об этом все расписано еще 2000 лет назад в Апокалипсисе.
«Сотворите же достойные плоды покаяния и не думайте говорить в себе: отец у нас Авраам, ибо говорю вам, что Бог может из камней сих воздвигнуть детей Аврааму» (Евангелие от Луки 3:8).
Поэтому земля наша будет сожжена полностью:
«И увидел я новое небо и новую землю, ибо прежнее небо и прежняя земля миновали, и моря уже нет» (Апокалипсис 21:1)
Если бы я знал сам бы поговорил)))
А зачем Вы заменяете слово Бог, которое использовали наши предки, на слово природа. Легче от этого Вам?
Если Бог, то значит перед Ним отвечать надо, а если природа, то плевать можно (после нас хоть потоп)?
Я об этом же, будет на что списать все ошибки и промахи.
"...нет никакого ИИ есть алгоритм заданный программистом (программистами)...
...че заложили в систему, то она и делает..."
Времена жестко запрограммированных алгоритмов для вычислительных систем уходят в прошлое, как перфокарты и перфоленты. Современные вычислительные сети получили возможность самообучаться и самопрограммироваться используя систему глобальных данных. Это и называется ИИ. И сделать они могут очень многое, и вопрос стоит в том, что нужно "заложить в систему" не алгоритм действия, а ограничения, не дающие сделать непоправимое. Но не сможет ли ИИ обойти эти ограничения? И не приведёт ли использование ИИ в оружейной сфере к созданию терминаторов? Возможно, скоро мы это увидим.
вы не правы.
это никак не САМО.
ИИ - это маркетинговая фишка.
вы сами говорите - на основе баз данных. Это и есть, то что значит, что система лишь выберет из огромного количества схожих алгоритмов самый простой.
как Электроник, бивший по воротам по кратчайшей траектории.
вычленить из одного алгоритма одно условие, из другого - другое и создать новый способ решения задачи - никакое ИИ не сможет.
даже заложив такую возможность - синтезировать из нескольких решений одно - ИИ не создаст нового решения, лишь комбинацией условий сведёт уже имеющиеся к минимальным затратам.
потому что даже сами понятия - самосовершенствование и самопрограммирование, это лишь суть одного единственного процесса - увеличение скорости обработки и объёма данных.
Которе тоже не возможно т.к. оказалось, что мощность-то ограничена.
ну почему же, через масштабирование вполне себе возможно, только успевай расширять канал передачи.
Не надо всем байкам верить
А программисты боги непогрешимые? Систему обслуживают, ошибка на ошибке сидит и ошибками погоняет.
ой, как удобно будет всё валить на ИИ при его активном включении в управление жизнями людей..
Человечество убивает себя само, а ИИ просто чуток поможет...
Так же как и с ядерной реакцией! Вроде бы, прогресс, который может и служить человеку, -- и убить миллионы людей!
Молить и просить ВСЕВЫШНЕГО о ПОМОЩИ ВЫЖИТЬ и остаться ЧЕЛОВЕКОМ!
Уже все предсказано фантастами - русский предсказатель В.Я.Брюсов про восстание машин написал за сотню лет до Терминатора "Восстание машин". Зачем мы себя подставляем на погибель от груды металла?
Погибнут только глупые изыскания наподобие ваших, а человечество может спастись от тотальной бессмысленности существования без цели, без развития и т.п.