Джеффри Хинтон, "крестный отец ИИ", покидает Google и предупреждает о рисках для человечества

Джеффри Хинтон, исследователь, получивший прозвище "крестный отец ИИ" за его огромный вклад в эту область, уволился из Google из-за неудовлетворенности направлением, в котором развиваются инструменты искусственного интеллекта.

Джеффри Хинтон, исследователь, получивший прозвище "крестный отец ИИ" за его огромный вклад в эту область, уволился из Google из-за неудовлетворенности направлением, в котором развиваются инструменты искусственного интеллекта.

В интервью New York Times Хинтон предупреждает, что будет трудно предотвратить неправильное использование инструментов, которые он помогал создавать в течение последнего десятилетия. "Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой", - объясняет он в интервью.

Хинтон, получивший престижную премию Тьюринга в 2018 году за вклад в область искусственного интеллекта, является разработчиком многих методик, которые позволяют создавать нейронные сети - вычислительную модель, имитирующую поведение нейронов у живых существ, - способную различать конкретные объекты.

Его работа позволила компьютерам в последние десятилетия с высокой степенью уверенности понимать, что происходит или какие элементы присутствуют в данном изображении или звуковом фрагменте, задача, которая до недавнего времени считалась практически невыполнимой.

В области искусственного интеллекта эти методы, разработанные Хинтоном, известны как методы "глубокого обучения" и позволяют обучать алгоритмы распознавать кошку или собаку на изображении, например, используя сотни тысяч примеров. После просмотра всех этих изображений система сама делает вывод о свойствах, которые определяют сущность рассматриваемого животного, и способна обнаружить их на новых фотографиях, даже если она их раньше не видела.

Это ключевое достижение для современных инструментов искусственного интеллекта, в том числе так называемых генеративных искусственных интеллектов, способных создавать изображения или текст на основе описаний на естественном языке.

Исследователь присоединился к Google в 2013 году после того, как веб-гигант купил компанию DNNresearch, которую Хинтон основал вместе с несколькими своими студентами в Университете Торонто.

До сих пор исследователь был доволен прогрессом и тем, как Google разрабатывает свои инструменты искусственного интеллекта, но он говорит, что что-то изменилось после анонса OpenAI ChatGPT в конце прошлого года.

Всего за несколько месяцев гонка за созданием все более совершенных инструментов ИИ усилилась, и Хинтон решил покинуть компанию, чтобы иметь возможность говорить об опасностях, создаваемых ИИ, не затрагивая компанию, которая, по его мнению, действует "Ответственно".

Хинтон также считает, что мы очень близки к созданию универсального искусственного интеллекта, который будет намного умнее людей, сценарий, который до недавнего времени он считал маловероятным.

Таким образом, его голос присоединяется к голосу других академиков и исследователей, которые начинают проявлять беспокойство по поводу скорости совершенствования инструментов искусственного интеллекта и жесткой конкуренции, возникшей между крупными технологическими компаниями за все более сложные приложения. И с большим социальным воздействием.

В марте прошлого года несколько из них опубликовали открытое письмо с просьбой приостановить разработку искусственного интеллекта как минимум на шесть месяцев, чтобы согласовать общие рекомендации или нормативную базу, которая позволит продвигаться вперед с меньшими рисками для населения.