Ник Шах из Peterson Technology Partners обсуждает влияние GPT4, новейшей технологии генеративного искусственного интеллекта, и призыв к ответственной разработке для устранения потенциальных рисков.
«Системы искусственного интеллекта с интеллектом, конкурирующим с человеком, могут представлять серьезную опасность для общества и человечества…»
Это вступительное предложение недавно опубликованного открытого письма, подписанного некоторыми из самых громких имен в области технологий, в том числе Илоном Маском, Стивом Возняком и Ювалем Ноа Харари.
Письмо представляет собой поразительный призыв этих лидеров к компаниям, которые в настоящее время разрабатывают более мощные технологии генеративного ИИ: приостановить обучение систем ИИ, более мощных, чем GPT4.
Когда несколько дней назад я начал писать этот блог, я намеревался изучить это новое революционное обновление для генеративного искусственного интеллекта под названием GPT4, которое штурмом покорило ИТ-индустрию. Всего несколько месяцев назад мы все познакомились с ChatGPT, первым предложением OpenAI (все еще доступным бесплатно в Интернете).
Хотя мы знали, что в разработке находился более мощный ИИ, в то время ожидалось, что пройдет несколько лет, прежде чем он появится на открытом рынке. Но с успехом бета-модели (ChatGPT собрал более 100 миллионов пользователей за два месяца) OpenAI решил ускорить запуск более мощной платной версии.
Генеративный ИИ существует на рынке уже некоторое время, и хотя ни одно из них не является таким популярным, как предложения OpenAI, они быстро наверстывают упущенное. Copy.AI, например, может похвастаться 6-миллионной пользовательской базой бесплатной версии. Google также выделил больше труда и ресурсов для улучшения своего ИИ Bard, чтобы конкурировать с OpenAI. Гонка вооружений ИИ продолжается, и никто не хочет остаться позади.
В контексте этих конкурирующих систем искусственного интеллекта открытое письмо имеет большое значение. Либо потому, что это показывает, что гонка технических вооружений вступила в более непредсказуемую фазу роста, либо потому, что это предвещает появление нового типа ИТ-гиганта. Мы видели миллиардеров доткомов, производителей мобильных устройств и гигантов социальных сетей. Мегакорпорации с искусственным интеллектом станут следующим большим достижением в области технологий.
Что говорится в письме?
Авторы письма утверждают, что технология ИИ может привести к глубоким изменениям в нашей работе, и развитие такой технологии следует тщательно обдумывать и планировать. Но, по их мнению, это полная противоположность происходящему.
Как указано в письме,
«К сожалению, такого уровня планирования и управления не существует, хотя в последние месяцы лаборатории искусственного интеллекта оказались вовлечены в неконтролируемую гонку по разработке и развертыванию все более мощных цифровых умов, которые никто — даже их создатели — не может понять. , прогнозировать или надежно контролировать».
Предлагаемое ими решение — 6-месячный мораторий на все разработки ИИ, более мощные, чем GPT4. Они предлагают, чтобы перед дальнейшим развитием заинтересованные стороны внутри отрасли и за ее пределами должны собраться вместе, чтобы понять, куда движется технология, каковы подводные камни и к каким экономическим и социальным проблемам мы должны быть готовы.
Это впервые для ИТ…
За запуском любой технологии, способной изменить правила игры, всегда следуют призывы к осторожности со стороны широкой публики. Есть и всегда были сторонники контролируемого технологического роста. Эта ситуация уникальна, потому что впервые за последние годы требование осторожности исходит от ИТ-индустрии. Особенно удивительно видеть таких подписантов, как Йошуа Бенжио и Стюарт Рассел, которые больше известны тем, что раздвигают границы в области ИИ, чем ограничивают их.
Самый неожиданный подписант — Илон Маск. Маск выступает за небольшое правительство и сокращение государственного надзора в сфере технологий. Его готовность сделать ставку на искусственный интеллект сделала Tesla одним из самых громких имен в области беспилотных автомобилей. Тем не менее, он добавил свое имя к письму, в котором прямо содержится просьба об усилении надзора за ИИ. Что это означает?
Выходит ли развитие ИИ из-под контроля?
Одно из объяснений заключается в том, что гонка вооружений ИИ стала настолько быстрой, что даже инсайдеры отрасли напуганы потенциальными результатами. Это, безусловно, то, что говорится в письме. Включение таких имен, как Макс Тегмарк, всемирно известный эксперт по искусственному интеллекту, и многочисленные исследователи, работающие над Deep Mind, говорит о том, что люди и опасения, выраженные в письме, являются законными.
Никакой генеративный ИИ, существующий в настоящее время, не может заменить человеческое мышление, интуицию и инстинкты, необходимые для выполнения нашей работы. Лучшее применение ИИ сегодня — не заменить людей, а помочь им в работе.
Показательный пример — ИИ, который мы разработали для найма. Рекрутинговый ИИ может делать многое, но он не может заменить рекрутеров. Это может устранить трудоемкие и повторяющиеся задачи, на выполнение которых все рекрутеры тратили часы.
Еще один хороший пример — розничные чат-боты. Чат-боты могут отметить ваши проблемы и предложить несколько заранее определенных ответов на часто задаваемые вопросы и общие проблемы, но они не могут продумать что-то более сложное. В этот момент нам неизбежно нужно соединиться с человеком.
Будущее GPT4
GPT4 намного мощнее любого розничного чат-бота. Он может получить для вас доступ к обширной базе данных с открытым исходным кодом и представить ее в выбранном вами формате. Письма, эссе, слоганы, посты в социальных сетях, выступления… что угодно. Он даже может обрабатывать и создавать высококачественные изображения, чего в настоящее время не могут сделать ChatGPT и конкурирующие ИИ. И это может быть поводом для беспокойства. В недавнем интервью Сэм Альтман, генеральный директор OpenAI, сказал:
«Было бы безумием не бояться [сверхразумного ИИ]. И я сочувствую людям, которые очень боятся».
Но, как он объясняет, это не столько проблема продвижения, сколько проблема согласования — отсутствие консенсуса в отношении того, каких целей мы хотим достичь с помощью ИИ. ИИ — это инструмент, и он будет работать для достижения целей, которые вы перед ним ставите.
Эти инструменты будут работать, как запрограммировано, за исключением нескольких моделей ИИ большого набора, которые могут демонстрировать непредсказуемое поведение. Конечная ответственность лежит на программисте. Если ИИ создан для использования в качестве оружия, обмана или иного нарушения законов, он это сделает.
Примером может служить недавний судебный процесс против автомобильной компании Volkswagen. Чтобы обойти европейские законы о выбросах, Volkswagen создает двигатели, которые снижают выбросы только во время испытаний. Это демонстрация программного обеспечения, запрограммированного на обман. Вина здесь лежит на руководстве Volkswagen, а не на самом двигателе.
Ответственность за свое программное обеспечение и его приложения лежит на технических лидерах. Нам нужно выработать общее понимание того, что мы хотим, чтобы наш ИИ делал, какие виды использования следует запретить, а какие следует поощрять. Мы также должны быть лучше подготовлены к результатам, которые может создать ИИ. Как общество, у нас все еще есть незрелое понимание приложений ИИ. Это должно улучшиться, иначе технология превзойдет наши возможности по созданию техно-социальной основы.
Опасаются ли большие технологии отставания?
Еще одно более циничное объяснение состоит в том, что не всем нравится быть исключенными из игры с генеративным ИИ, и они хотят приостановить разработку, пока не смогут закрепиться. Это может объяснить присутствие таких лидеров, как Илон Маск, которые могут многое выиграть от возможности включить проприетарный генеративный ИИ в свои существующие IP-адреса.
Я не думаю, что это лучшее объяснение. ИИ — это молодая, расширяющаяся область, в которой найдется много пирога для всех. Кроме того, Илон Маск является одним из крупнейших сторонников технологии нейронных сетей, необходимой для его проекта Neuralink и беспилотных автомобилей.
Тем не менее, это говорит о том, что генеративный ИИ может стать следующим большим прорывом в технологиях, и инсайдеры хотят попасть на первый этаж. Все паузы в мире не мешают развитию технологий ИИ. Он уже становится неотъемлемой частью многих организационных процессов. Даже генеративный ИИ, который намного моложе традиционных технологий ИИ/МО, занял свою нишу в маркетинге, образовании и коммуникации и, вероятно, скоро станет лидером по прибыли среди ИИ.
Примите ответственный рост и используйте потенциал для изменений
Оба исхода одинаково верны. Многие опасения, выраженные в письме, относятся только к самым крупным моделям. Но это не значит, что их не следует решать.
Лидеры в области ИИ несут ответственность за ответственное использование разрабатываемых ими технологий. Цель должна заключаться не в ограничении ИИ, а в создании мер безопасности, предотвращающих злоупотребления и обеспечивающих подотчетность.
Нам необходимо найти решения этих проблем до того, как они будут применены к отрасли группами, которые заинтересованы, но нуждаются в большем понимании.
Я вижу неизмеримый рост индустрии искусственного интеллекта в течение следующих нескольких десятилетий. ИИ сделал возможными инновации за последний год, которые, как мы думали, появятся только в отдаленном будущем. ИИ растет. Страх не остановит рост ИИ, но ограничит вашу возможность участвовать в нем. Это удивительная технология, способная создавать удивительные изменения.
Мы должны знать о его силе, знать о его потенциале и быть готовыми отправиться в путь.
Могут ли такие технологии, как GPT4, помочь ответственно сформировать будущее ИИ? Поделитесь с нами своими мыслями.
