Бюрократический искусственный интеллект будет контролировать мир через 10 лет

Харари, израильский историк, философ и писатель, известен своими влиятельными работами по истории человечества и будущему технологий.

В недавнем интервью для журнала «Дневник генерального директора» его спросили, верит ли он, что через десятилетие люди все еще будут контролировать то, что происходит в мире.

"Я не уверен, что это зависит только от решений, которые мы примем в ближайшие годы, но есть вероятность, что ответ будет отрицательным, что через 10 лет миром будут править алгоритмы и искусственный интеллект", - ответил он.

«И я говорю не о голливудском научно-фантастическом сценарии, где огромный суперкомпьютер завоевывает мир, а о бюрократии с искусственным интеллектом.

У нас будут миллионы бюрократов, заменённых искусственным интеллектом, повсюду: в банках, правительстве, на предприятиях, в университетах, которые будут принимать все больше и больше решений о нашей жизни.

«Эти повседневные решения, например, одобрят ли нам кредит или примут на работу, будут становиться все труднее понимать. Мы не поймем логику того, почему алгоритм отказал нам в кредите или, например, почему он принял на эту должность кого-то другого», — добавил он.

Еще одно шокирующее заявление Харари — это новое определение ИИ, в котором он взял термин «искусственный» и превратил его в «инопланетный».

«У нас все еще могут быть демократии, в которых люди будут голосовать за президента или премьер-министра, но если большинство решений будут приниматься ИИ, а самим людям, включая политиков, будет трудно понять, почему эти разумы принимают определенные решения.

«Власть начнет постепенно переход от человечества к этим новым «инопланетным» разумам», — предсказал он.

«Я предпочитаю думать об ИИ не просто как об «искусственном интеллекте», а скорее как о «инопланетном интеллекте», не потому, что он приходит из космоса, а потому, что он принимает решения принципиально иным способом, чем человеческий разум. «Искусственный» подразумевает, что мы его проектируем и контролируем, что это нечто, созданное людьми.

Однако с каждым годом ИИ становится все менее искусственным и более чуждым.

Философ обосновывает свою точку зрения, указывая на то, что эти алгоритмические "инопланетяне" способны принимать решения автономно и генерировать новые идеи, чего никогда раньше не случалось в технологических революциях прошлого.