«Искусственный интеллект убьёт человечество» Эксперт по нейросетям бьет тревогу
Специалисты по развитию искусственного интеллекта глубоко шокированы прогрессом в развитии нейронных сетей. Его обращение опубликовала Baza.
Мы говорим об одном из самых известных исследователей ИИ Элиезере Юдковски. Оказывается, эксперта очень беспокоит бурное развитие нейронных сетей в последние несколько лет, особенно технологии GPT. Он дал неутешительный прогноз, что дальнейшее развитие искусственного интеллекта может уничтожить человеческий род.
Эксперт изучил последние достижения в области нейросетей и пришел к выводу, что человечество не готово к подобным изобретениям. По его мнению, у создателей ИИ нет «плана Б» на случай, если бездушная машина вдруг выйдет из-под контроля — да, он серьезно рассматривает такой сценарий.
Если процесс развития нейронных сетей будет осуществляться по непредсказуемому сценарию, то это может привести к появлению сверхразумного искусственного интеллекта, а человечество будет просто недоразвитой глупой цивилизацией.
Чтобы предотвратить катастрофу, Юдковски призвал к немедленному прекращению обучения нейронных сетей и в первую очередь к международному стандарту для регулирования отрасли. После завершения необходимо будет внимательно следить за выполнением стандартов и не стесняться принимать жесткие меры по отношению к нарушителям.