Почему Крестный отец ИИ покидает Google и предупреждает о будущем технологий

«Крестный отец» ИИ предупреждает об «экзистенциальном риске» роботизированного интеллекта после ухода из Google

«Крестный отец ИИ» покидает Google и предупреждает о будущем технологий
«Нет необходимости расширять масштабы, пока они не поймут, могут ли они это контролировать»

— говорит Джеффри Хинтон.

Джеффри Хинтон, известный как «крестный отец ИИ», ушел из Google, предупредив об опасностях, которые представляет эта технология.

Джеффри Хинтон проработал в Google более десяти лет и разработал технологию, которая проложила путь для современных систем искусственного интеллекта, таких как ChatGPT. Однако с тех пор технический эксперт покинул компанию, чтобы забить тревогу об опасностях искусственного интеллекта.

Он опасается, что в краткосрочной перспективе технология будет означать, что люди «больше не смогут знать, что является правдой» из-за распространения поддельных изображений, видео и текста, сказал он.

Но в будущем системы искусственного интеллекта могут в конечном итоге научиться неожиданному и опасному поведению, и что такие системы в конечном итоге станут мощными роботами убийцами. Он также предупредил, что эта технология может нанести вред рынку труда.

Он предупредил, что регулирование необходимо для того, чтобы такие компании, как Google и Microsoft, не оказались втянутыми в опасную гонку. Он предположил, что эти компании, возможно, уже тайно работают над опасными системами.

Доктор Хинтон — не первый эксперт по искусственному интеллекту, который бьет тревогу об опасностях созданных ими технологий. В последние месяцы два крупных открытых письма предупреждали о «серьезных рисках для общества и человечества»

Как и многие другие, доктор Хинтон сказал, что за последний год он стал больше беспокоиться о рисках, связанных с технологией, с развитием таких технологий, как ChatGPT от OpenAI и Bard от Google. Его точка зрения изменилась, когда он пришел к выводу, что системы начинают вести себя так, как не может человеческий мозг.

«Возможно, то, что происходит в этих системах, на самом деле намного лучше, чем то, что происходит в мозгу»

— сказал он.

Подобной ChatGPT, может раскрывать мысли людей

Это, вероятно, станет еще более верным в ближайшие годы, поскольку компании продолжают совершенствовать и обучать свои системы искусственного интеллекта. По мере того как они это делают, системы становятся более опасными, опасается он.

«Посмотрите, как это было пять лет назад и как сейчас»

— сказал он о технологии. Возьмите разницу и распространите ее вперед. Это страшно.