Ученые сделали вывод, что люди не смогут сдерживать сверхразумный компьютер

Фото https://avatars.mds.yandex.net/

Исследователи Центра людей и машин Института развития человека Макса Планка заявили, что человечество не сможет управлять сверхразумными компьютерами с наличием искусственного интеллекта. Статья ученых опубликована в Journal of Artificial Intelligence Research.

По мнению специалистов, в мире уже существуют сверхразумные суперкомпьютеры. При этом они в автономном режиме выполняют поставленные им задачи.

Исследователи выяснили, что люди не смогут контролировать сверхразумный ИИ с помощью ограничивающих алгоритмов, которые запрещали бы компьютерам причинять вред человеку. Специалисты пришли к выводу, что в существующей парадигме вычислений создание сдерживающего алгоритма для ИИ не представляется возможным.

Глава группы цифровой мобилизации в Центре людей и машин Института развития человека Макса Планка Мануэль Себриан также опасается того, что не все создатели таких высокотехнологичных машин понимают процесс их самообучения.

«Если развитие таких систем продолжится, то в какой-то момент они могут начать представлять реальную опасность для людей», — заключил Себриан.

https://science.sm.news/uchenye-sdelali-vyvod-chto-lyudi-ne-smogut-sderzhivat-sverxrazumnyj-kompyuter-68988/