Пионер искусственного интеллекта уходит из Google, чтобы предупредить об «опасности» технологии.

Джеффри Хинтон, которого называют «крестным отцом ИИ», подтвердил в понедельник, что на прошлой неделе он оставил свою должность в Google, чтобы рассказать об «опасности» технологии, которую он помог разработать.

Новаторская работа Хинтона над нейронными сетями сформировала системы искусственного интеллекта, лежащие в основе многих современных продуктов. В течение десяти лет он работал неполный рабочий день в Google над усилиями технологического гиганта по разработке искусственного интеллекта, но с тех пор у него возникли опасения по поводу технологии и его роли в ее продвижении.

«Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой», — сказал Хинтон газете New York Times , которая первой сообщила о его решении.

В твиттере в понедельник Хинтон сказал, что покинул Google, чтобы свободно говорить о рисках ИИ, а не из-за желания критиковать конкретно Google.

«Я ушел, чтобы говорить об опасностях ИИ, не задумываясь о том, как это повлияет на Google», — написал Хинтон в своем твите. «Google действовал очень ответственно».

Джефф Дин, главный научный сотрудник Google, сказал, что Хинтон «совершил фундаментальные прорывы в области искусственного интеллекта», и выразил признательность за «десятилетие вклада Хинтона в Google».

«Мы по-прежнему привержены ответственному подходу к ИИ», — сказал Дин в заявлении, предоставленном CNN. «Мы постоянно учимся понимать возникающие риски, а также смело внедряем инновации».

Решение Хинтона отказаться от участия в компании и высказаться о технологии было принято в связи с тем, что растущее число законодателей, правозащитных групп и технических инсайдеров забили тревогу по поводу того, что новый урожай чат-ботов на базе ИИ может распространять дезинформацию и вытеснять рабочие места.

Волна внимания к ChatGPT в конце прошлого года помогла возобновить гонку вооружений между технологическими компаниями по разработке и внедрению аналогичных инструментов искусственного интеллекта в свои продукты. OpenAI, Microsoft и Google находятся в авангарде этой тенденции, но IBM, Amazon, Baidu и Tencent работают над аналогичными технологиями.

В марте некоторые видные деятели в области технологий подписали письмо, призывающее лаборатории искусственного интеллекта прекратить обучение самых мощных систем искусственного интеллекта как минимум на шесть месяцев, сославшись на «серьезные риски для общества и человечества». Письмо, опубликованное некоммерческой организацией Future of Life Institute, поддерживаемой Илоном Маском, было опубликовано всего через две недели после того, как OpenAI анонсировала GPT-4, еще более мощную версию технологии, лежащей в основе ChatGPT. В первых тестах и ​​демонстрации компании GPT-4 использовался для составления судебных исков, сдачи стандартных экзаменов и создания работающего веб-сайта из нарисованного от руки эскиза.

В интервью Times Хинтон повторил опасения по поводу потенциала ИИ для ликвидации рабочих мест и создания мира, в котором многие «больше не смогут знать, что является правдой». Он также указал на ошеломляющие темпы развития, намного превосходящие то, что он и другие ожидали.

«Идея о том, что эта штука может стать умнее людей — в это поверили лишь немногие», — сказал Хинтон в интервью. «Но большинство людей думали, что это далеко. А я думал, что далеко. Я думал, что это будет через 30-50 лет или даже больше. Очевидно, я больше так не думаю».

Еще до того, как уйти из Google, Хинтон публично говорил о способности ИИ приносить не только пользу, но и вред.

«Я считаю, что быстрый прогресс ИИ изменит общество способами, которые мы не до конца понимаем, и не все эффекты будут хорошими», — сказал Хинтон в приветственной речи 2021 года в Индийском технологическом институте Бомбея в Мумбаи. . Он отметил, как ИИ улучшит здравоохранение, а также создаст возможности для смертоносного автономного оружия. «Я нахожу эту перспективу гораздо более близкой и гораздо более пугающей, чем перспектива захвата власти роботами, до которой я думаю очень далеко».

Хинтон — не первый сотрудник Google, который поднял красный флаг в отношении ИИ. В июле компания уволила инженера, который утверждал, что не выпущенная система искусственного интеллекта стала разумной, заявив, что он нарушил политику занятости и безопасности данных. Многие в ИИ-сообществе решительно выступили против утверждения инженера.