Четыре эксперта по искусственному интеллекту выразили обеспокоенность после того, как их работа была процитирована в открытом письме, подписанном Илоном Маском, в котором содержится призыв к срочной паузе в исследованиях.
Письмо от 22 марта, собравшее более 1800 подписей к пятнице, призывает к шестимесячной паузе в разработке систем, «более мощных», чем новый GPT-4 от OpenAI, поддерживаемый Microsoft, который может вести человеческую беседу, сочинять песни и резюмировать объемные документы.
С тех пор, как в прошлом году был выпущен предшественник ChatGPT-4, GPT-4, конкурирующие компании поспешили запустить аналогичные продукты.
В открытом письме предупреждается, что системы искусственного интеллекта с интеллектом, конкурирующим с человеком, опасны для человечества, цитируя 12 исследований экспертов, включая университетских ученых, а также нынешних и бывших сотрудников OpenAI, Google (GOOGL.O) и ее дочерней компании DeepMind.
С тех пор группы гражданского общества в США и Европейском союзе призвали законодателей ограничить исследования OpenAI. OpenAI не сразу ответил на запросы о комментариях.
Критики обвинили Институт будущего жизни (FLI), организацию, стоящую за письмом, которая в основном финансируется Фондом Маска, в игнорировании более насущных опасений по поводу искусственного интеллекта, таких как расистские или сексистские предубеждения, запрограммированные в машинах.
Упомянутое исследование включало известную статью «Об опасностях стохастических попугаев», соавтором которой является Маргарет Митчелл, которая ранее руководила исследованиями этического ИИ в Google.
Митчелл, ныне главный специалист по этике в фирме Hugging Face, специализирующейся на искусственном интеллекте, раскритиковал письмо, заявив Reuters, что неясно, что считается «более мощным, чем GPT4».
«Принимая многие сомнительные идеи как должное, письмо подтверждает набор приоритетов и повествование об ИИ, которое приносит пользу сторонникам FLI», — сказала она. «Игнорирование активного вреда прямо сейчас — это привилегия, которой нет у некоторых из нас».
Ее соавторы, Тимнит Гебру и Эмили М. Бендер, раскритиковали письмо в Твиттере, при этом последний назвал некоторые из его утверждений «необоснованными».
Президент FLI Макс Тегмарк заявил агентству Reuters, что эта кампания не была попыткой подорвать корпоративное преимущество OpenAI.
«Это довольно весело. Я видел, как люди говорили: «Илон Маск пытается замедлить конкуренцию», — сказал он, добавив, что Маск не участвовал в составлении письма. «Речь идет не об одной компании».
Шири Дори-Хакоэн, доцент Коннектикутского университета, не согласилась с упоминанием в письме ее работы. В прошлом году она выступила соавтором исследовательской работы, в которой утверждала, что широкое использование искусственного интеллекта уже представляет серьезные риски.
В ее исследовании утверждается, что современное использование систем искусственного интеллекта может повлиять на принятие решений в отношении изменения климата, ядерной войны и других экзистенциальных угроз.
«ИИ не нуждается в интеллекте человеческого уровня, чтобы усугубить эти риски», — сказала она агентству Reuters.
«Есть несуществующие риски, которые действительно важны, но на голливудском уровне им не уделяется такого же внимания».
На просьбу прокомментировать критику доктор Макс Тегмарк сказал, что следует серьезно относиться как к краткосрочным, так и к долгосрочным рискам искусственного интеллекта.
«Когда мы цитируем кого-то, это просто означает, что мы утверждаем, что они поддерживают эту фразу. Это не означает, что он одобряет письмо, или мы одобряем все, что он думает», — сказал он агентству Reuters.
Дэн Хендрикс, директор калифорнийского Центра безопасности ИИ, сказал, что письмо было разумным и что следует учитывать события черного лебедя — те, которые кажутся маловероятными, но будут иметь разрушительные последствия.
В открытом письме также содержится предупреждение о том, что генеративные инструменты искусственного интеллекта могут быть использованы для наводнения Интернета «пропагандой и ложью».
Дори-Хакоэн прокомментировал новость о том, что Маск приобрел Twitter, сказав, что это было «довольно богато» для него. Он сослался на сообщения об увеличении дезинформации на платформе, которые были задокументированы группой гражданского общества Common Cause и другими.
Twitter вскоре запустит новую структуру платы за доступ к своим исследовательским данным, что может помешать исследованиям по этой теме.
«Это напрямую повлияло на работу моей лаборатории, а также на работу других, изучающих ложь и дезинформацию», — сказал Дори-Хакоен. «Мы работаем с одной рукой, связанной за спиной».
