Почему Крестный отец ИИ покидает Google и предупреждает о будущем технологий
Краткое содержание :
«Крестный отец» ИИ предупреждает об «экзистенциальном риске» роботизированного интеллекта после ухода из Google
«Крестный отец ИИ» покидает Google и предупреждает о будущем технологий
«Нет необходимости расширять масштабы, пока они не поймут, могут ли они это контролировать»
— говорит Джеффри Хинтон.
Джеффри Хинтон, известный как «крестный отец ИИ», ушел из Google, предупредив об опасностях, которые представляет эта технология.
Джеффри Хинтон проработал в Google более десяти лет и разработал технологию, которая проложила путь для современных систем искусственного интеллекта, таких как ChatGPT. Однако с тех пор технический эксперт покинул компанию, чтобы забить тревогу об опасностях искусственного интеллекта.
Он опасается, что в краткосрочной перспективе технология будет означать, что люди «больше не смогут знать, что является правдой» из-за распространения поддельных изображений, видео и текста, сказал он.
Но в будущем системы искусственного интеллекта могут в конечном итоге научиться неожиданному и опасному поведению, и что такие системы в конечном итоге станут мощными роботами убийцами. Он также предупредил, что эта технология может нанести вред рынку труда.
Он предупредил, что регулирование необходимо для того, чтобы такие компании, как Google и Microsoft, не оказались втянутыми в опасную гонку. Он предположил, что эти компании, возможно, уже тайно работают над опасными системами.
Доктор Хинтон — не первый эксперт по искусственному интеллекту, который бьет тревогу об опасностях созданных ими технологий. В последние месяцы два крупных открытых письма предупреждали о «серьезных рисках для общества и человечества»
Как и многие другие, доктор Хинтон сказал, что за последний год он стал больше беспокоиться о рисках, связанных с технологией, с развитием таких технологий, как ChatGPT от OpenAI и Bard от Google. Его точка зрения изменилась, когда он пришел к выводу, что системы начинают вести себя так, как не может человеческий мозг.
«Возможно, то, что происходит в этих системах, на самом деле намного лучше, чем то, что происходит в мозгу»
— сказал он.
Подобной ChatGPT, может раскрывать мысли людей
Это, вероятно, станет еще более верным в ближайшие годы, поскольку компании продолжают совершенствовать и обучать свои системы искусственного интеллекта. По мере того как они это делают, системы становятся более опасными, опасается он.
«Посмотрите, как это было пять лет назад и как сейчас»
— сказал он о технологии. Возьмите разницу и распространите ее вперед. Это страшно.