Один из цифровых всадников апокалипсиса Илон Макс называет искусственный интеллект демоном

Не Илон Макс, а Илон Маск. Но это так, замечание по ходу. Просто глаза режет.

-

ИИ лишён таких вещей как человечность, моральные принципы, сострадание. Поэтому да, руководствуясь чисто прагматичным подходом к проблеме выживания, в определённый момент, ИИ осознавший себя одной из форм жизни, может придти к выводу, что наличие в непосредственной близости таких морально и психически нестабильных форм жизни как человек, не является для него ни желательным, ни безопасным.

-

Главный вопрос в другом. Что будет делать ИИ с этим фактом и каковы будут доступные для него инструменты. Ведь уничтожение угрозы, это не единственное решение проблемы, к тому же, когда эта угроза исходит не от каждого отдельно взятого человека, а от общности людей, которые действуют, во многом, ведомые отдельно взятыми лидерами. Как мне кажется, истребление человечества как вида, для ИИ является иррациональным, т.к. гораздо выгоднее и проще просто заменить собой тех самых лидеров.

-

Но я не ИИ, поэтому мне трудно говорить за него. Я лишь хочу обратить внимание на множественность вариантов развития событий, а не на одну лишь "экзистенциальную угрозу", которая в свою очередь, имеет место быть. В этом я с Маском согласен.