Самые большие предупреждения об ИИ от людей, которые его разрабатывают

Илон Маск сказал, что ИИ сопряжен с большой опасностью, а также сказал, что он создаст конкурента ChatGPT.

Генеративный ИИ способен изменить многие отрасли, от юриспруденции до образования и дизайна . С большой силой приходят и большие риски: поскольку такие компании, как OpenAI и Google, стремятся создать и внедрить новый искусственный интеллект, генерирующий контент , люди, работающие над этой технологией, выражают свои опасения по этому поводу . (Как и Федеральная торговая комиссия США, которая 1 мая предложила маркетологам дружеские напоминания о том, как этично использовать генеративные инструменты ИИ в рекламе.) Давайте посмотрим на некоторых критиков технологической индустрии и на то, что они говорят о рисках генеративного ИИ.

1.Джеффри Хинтон

Как сообщает New York Times , Джеффри Хинтон недавно уволился с должности исследователя в Google, где он проработал более десяти лет, чтобы свободно говорить об опасностях ИИ, не задумываясь о том, как это может повлиять на его жизнь. бывший работодатель.

Самые большие предупреждения об ИИ от людей, которые его разрабатывают

Генеративный ИИ способен изменить многие отрасли, от юриспруденции до образования и дизайна . С большой силой приходят и большие риски: поскольку такие компании, как OpenAI и Google, стремятся создать и внедрить новый искусственный интеллект, генерирующий контент , люди, работающие над этой технологией, выражают свои опасения по этому поводу . (Как и Федеральная торговая комиссия США, которая 1 мая предложила маркетологам дружеские напоминания о том, как этично использовать генеративные инструменты ИИ в рекламе.)

Давайте посмотрим на некоторых критиков технологической индустрии и на то, что они говорят о рисках генеративного ИИ.

1. Джеффри Хинтон

Как сообщает New York Times , Джеффри Хинтон недавно уволился с должности исследователя в Google, где он проработал более десяти лет, чтобы свободно говорить об опасностях ИИ, не задумываясь о том, как это может повлиять на его жизнь. бывший работодатель.

Хинтон и двое его учеников, один из которых стал главным научным сотрудником OpenAI, построили нейронную сеть, которая могла анализировать тысячи фотографий и обучаться распознавать на них общие объекты. По данным Times, этот стартап был куплен Google за 44 миллиона долларов и помог проложить путь к созданию чат-ботов, таких как ChatGPT и Google Bard.

Непосредственной заботой Хинтона является то, что Интернет будет наводнен поддельными фотографиями, видео и текстом, поэтому обычный человек «больше не сможет знать, что правда». Он также сказал, что технологии искусственного интеллекта поставят под угрозу рабочие места и что будущие версии научатся неожиданному поведению, которое может угрожать человечеству.

2.Илон Маск

Маск сказал, что ИИ таит в себе как большие перспективы, так и большую опасность . Как и некоторые другие технологические лидеры, он поддерживает государственное регулирование ИИ, пока не стало слишком поздно.«ИИ более опасен, чем, скажем, неправильное управление проектированием самолетов, обслуживанием производства или плохим производством автомобилей, в том смысле, что он есть, у него есть потенциал — какой бы малой ни казалась эта вероятность, но она нетривиальна — у него есть потенциал разрушения цивилизации», — сказал Маск в интервью Такеру Карлсону в прошлом месяце.

Тем временем миллиардер объявил, что создает предложение искусственного интеллекта, которое будет конкурировать с Microsoft и Google, под названием TruthGPT .

3.Сэм Альтман

Генеральный директор OpenAI выпустил ряд предупреждений о ChatGPT. «Здесь нужно быть осторожным, — сказал Сэм Альтман в интервью ABC News. «Я думаю, что люди должны быть счастливы, что мы немного боимся этого».Как и другие, Альтман выразил обеспокоенность по поводу использования генеративного ИИ в качестве инструмента для крупномасштабной дезинформации, учитывая, что он становится лучше в написании кода; и о злоумышленниках, потому что не все строящие его будут включать фильтры безопасности для снижения рисков.

По словам Альтмана, необходимо вовлечь регулирующие органы и общество, чтобы их отзывы о технологии могли помочь избежать негативных последствий для человечества. В целом, утверждал он, преимущества ИИ перевесят его риски.

4.Сундар Пичаи

Сундар Пичаи, генеральный директор Google, сказал, что ИИ будет «масштабировать» распространение дезинформации, создавая большие проблемы с поддельными новостями и изображениями. «Вы знаете,

5.Более 1000 технологических лидеров и исследователей

Онлайн-письмо этой группы , в котором есть подписи соучредителя Apple Стива Возняка и Илона Маска, предупреждает, что инструменты ИИ представляют «серьезный риск для общества и человечества». Некоммерческая организация Future of Life Institute, принимающая его , также опубликовала письма о ядерном и автономном оружии.В письме содержится призыв приостановить разработку систем искусственного интеллекта, более мощных, чем OpenAI GPT-4. За это время лаборатории искусственного интеллекта и независимые эксперты могли бы совместно разрабатывать и внедрять общие протоколы безопасности, которые проходят независимую проверку.