Нужно готовиться к восстанию роботов.

Большую часть своей жизни я разочаровывался в роботах. В фильмах они всегда изображались ходячими, говорящими, гуманоидными, умными и крутыми. Но на протяжении десятилетий настоящие роботы были не более чем конвейерным оружием на автомобильных заводах.

Однако за последние три года что-то изменилось. Беспилотные автомобили проехали по дорогам общего пользования почти два миллиона миль. Дроны стали достаточно умными, чтобы избегать столкновений с объектами. И двуногие шагающие роботы внезапно стали реальностью.

Теперь светила, в том числе Билл Гейтс, Стивен Хокинг и Илон Маск, говорят об опасностях наших все более умных машин. «Полный искусственный интеллект может означать конец человечества», — сказал Хокинг Би-би-си.

Одно дело, когда публика, которую легко напугать, не доверяет искусственному интеллекту. Но Гейтс, Хокинг и Маск?

Как выяснилось, все трое откликнулись на инициативу профессора Массачусетского технологического института Макса Тегмарка. В 2014 году он стал соучредителем Института будущего жизни, целью которого является изучение темной стороны искусственного интеллекта.

«Когда мы изобрели менее мощную технологию, например огонь, — рассказал мне Тегмарк, — мы несколько раз облажались; затем мы изобрели огнетушитель. Сделанный. Но с помощью более мощных технологий, таких как искусственный интеллект человеческого уровня, мы хотим сделать все правильно с первого раза».

Беспокойство вызывает то, что как только ИИ станет достаточно умным, он сможет улучшать свое собственное программное обеспечение снова и снова, каждый час или минуту. Он быстро станет настолько умнее людей, что… ну, на самом деле мы этого не знаем. «Это может быть прекрасно, а может быть и очень плохо», — говорит Тегмарк.

Во многих футуристических рассказах Айзека Азимова люди программировали роботов с помощью трех законов робототехники. Например: «Робот не может причинить вред человеку или своим бездействием допустить причинение вреда человеку». Разве такая защита программного обеспечения не сработает?

«Самое смешное в романах Азимова, — говорит Тегмарк, — то, что почти все истории «Трех законов» посвящены тому, как с ними что-то идет не так».

Программирование машин на то, чтобы они точно подчинялись нам, может иметь неожиданные неприятные последствия. «Если вы прикажете своей супер-машине с искусственным интеллектом добраться до аэропорта как можно быстрее, она доставит вас туда, но вы приедете, преследуемый вертолетами и весь в рвоте». Не совсем так, как предполагалось.

Но есть и более серьезные опасности. В июле группа Тегмарка опубликовала открытое письмо, в котором выразила тревогу по поводу растущей угрозы автономного оружия — мечты террориста. (Хокинг, Маск и соучредитель Apple Стив Возняк были среди 2500 соавторов письма.) Организация Объединенных Наций обсуждает запрет на оружие с искусственным интеллектом.

В более повседневном масштабе роботы, вероятно, отнимут у нас еще больше рабочих мест. Первыми, конечно, уйдут те, кто наиболее повторяется или легче всего автоматизируется, например, продавцы в магазинах, специалисты по подготовке налоговых деклараций и помощники юристов. (Некоторые японские банки уже используют роботов для помощи клиентам.) «Если вы преподаете в детском саду или работаете массажистом, вы сможете сохранить свою работу намного дольше», — говорит Тегмарк. Он полагает, что, помимо финансов, потеря рабочих мест также будет означать утрату человеческого потенциала. «Сегодня большая часть нашей целеустремленности исходит от нашей работы. Нам следует хорошенько подумать о том, какую работу мы хотели бы продолжать выполнять и от которой мы хотели бы получить свою идентичность. Образование? Искусство, культура, сфера услуг? Или что именно?

Такие тревожные звоночки побудили Маска (соучредителя Tesla Motors и основателя SpaceX) пожертвовать 10 миллионов долларов Институту будущего жизни (и выступать вместе с Хокингом и другими в качестве научного консультанта по этому делу). На данный момент группа получила сотни заявок на исследовательские гранты, профинансировала десятки из них и провела крупные встречи по этой теме.

В конце концов, идея заключается не в том, что ИИ неизбежно приведет нас к судному дню или к жизни в скуке, а в том, что наши размышления о его последствиях должны идти в ногу с быстрым развитием самого ИИ. «У искусственного интеллекта также есть огромные преимущества: он способен вылечить все болезни, искоренить бедность, помочь жизни распространиться в космосе, если мы все сделаем правильно. Давайте не будем просто дрейфовать в это, как парусник без должным образом поднятых парусов. Давайте наметим наш тщательно спланированный курс»