Илон Маск предупредил о цивилизационных рисках, связанных с искусственным интеллектом. Сундар Пичаи из Google подчеркнул потенциал технологии для решения проблем здравоохранения и энергетики. А Марк Цукерберг из Meta** подчеркнул важность открытых и прозрачных систем искусственного интеллекта.
В среду на трехчасовой встрече с законодателями в Вашингтоне технологические титаны рассказали об искусственном интеллекте и будущих правилах. Собрание, известное как форум A.I. Insight, было частью ускоренного курса для Конгресса по технологиям и организовано лидером Сената Чаком Шумером, демократом от Нью-Йорка.
Встреча, на которой также присутствовали Билл Гейтс, основатель Microsoft; Сэм Альтман из OpenAI; Сатья Наделла из Microsoft; и Дженсен Хуанг из Nvidia, была редким собранием более дюжины топ-менеджеров в одной комнате. Это стало одной из самых активных демонстраций силы в отрасли в столице страны, поскольку компании стремятся быть в авангарде искусственного интеллекта и, как считается, влиять на его направление.
Изображение
“У всех нас одинаковые стимулы добиться этого права”, сказал мистер Альтман после встречи, которая проходила в зале заседаний Кеннеди в здании Сената.
Г-н Пичаи назвал мероприятие “продуктивным” и подчеркнул необходимость того, чтобы правительство сбалансировало “инновационную сторону и создание правильных гарантий”.
Собрание, в котором также приняли участие лидеры профсоюзов и представители внешних правительственных структур и бизнеса, ознаменовало год стремительного развития искусственного интеллекта. С тех пор как в прошлом году резко возросла популярность чат-бота на базе искусственного интеллекта ChatGPT, законодатели и регулирующие органы столкнулись с тем, как технология может изменить рабочие места, распространять дезинформацию и потенциально развивать собственный вид интеллекта.
В то время как Европа находится в агонии, разрабатывая законы для регулирования искусственного интеллекта, Соединенные Штаты отстают. Но ажиотаж побудил Белый дом, Конгресс и регулирующие органы в последние месяцы начать реагировать с помощью гарантий искусственного интеллекта и других мер.
Ожидается, что в этом году Белый дом опубликует распоряжение об ИИ и провел несколько встреч с руководителями технических служб. На этой неделе было объявлено, что в общей сложности 15 компаний согласились на добровольные стандарты безопасности для своих инструментов искусственного интеллекта, включая стороннее тестирование безопасности.
Во вторник судебный подкомитет Сената провел слушания по законодательству об искусственном интеллекте с участием президента Microsoft и главного научного сотрудника Nvidia. А на прошлой неделе сенаторы Ричард Блюменталь, демократ от Коннектикута, и Джош Хоули, республиканец от Миссури, объявили о структуре законодательства об ИИ, которая предусматривает создание независимого ведомства для надзора за ИИ, а также требования к лицензированию и стандарты безопасности для технологии.
“Это самый сложный вопрос, с которым сталкивается Конгресс, потому что искусственный интеллект настолько сложен и техничен”, сказал Шумер в интервью.
В среду мистер Шумер пригласил 22 гостей, которые предстали перед десятками законодателей в зале заседаний Кеннеди, где разворачивались слушания по делу о затоплении "Титаника", бомбардировке Перл-Харбора и Уотергейтском скандале.
Выбор редакции
Эндрю Ллойд Уэббер, любимец авангарда?
‘Собаки из резервации’ были шедевром на все времена
Что нужно знать о возврате паксловида
За столом в форме полумесяца, занимающим почти всю длину зала, мистера Шумера окружали сенаторы Майк Раундс от Южной Дакоты и Тодд Янг от Индианы, оба республиканцы. Мистер Хуан из Nvidia сидел рядом с мистером Наделлой из Microsoft. Алекс Карп, исполнительный директор Palantir, был рядом с мистером Маском, который показал СМИ поднятые вверх большие пальцы и поднял руки в знак сердца.
На закрытом заседании технические руководители выступили со вступительными заявлениями и присоединились к дискуссии, модератором которой выступил мистер Шумер. Он признал дефицит технических знаний в Конгрессе и сказал, что будет опираться на лидеров Силиконовой долины, ученых и группы общественных интересов, чтобы рассказать членам о технологии.
Было неясно, появятся ли какие-либо конкретные предложения по итогам встречи, первой из серии подобных собраний. Но технические руководители воспользовались возможностью, чтобы протолкнуть свои повестки дня.
Г-н Карп из Palantir сказал, что ему удалось донести свое послание о том, что правительство должно поддерживать искусственный интеллект в оборонном секторе, который включает основных клиентов его компании. “Было поразительное единодушие в том, что Америка должна быть лидером в области искусственного интеллекта”, сказал он в интервью.
Большинство руководителей согласились с необходимостью регулирования искусственного интеллекта, который находится под пристальным вниманием из-за его преобразующих и рискованных последствий.
Но, по словам участников, разногласия все еще были. Г-н Цукерберг подчеркнул важность исследований и разработок искусственного интеллекта с открытым исходным кодом, что означает, что исходный код базовых систем искусственного интеллекта доступен общественности.
“Открытый исходный код демократизирует доступ к этим инструментам, и это помогает выровнять условия игры и стимулировать инновации для людей и бизнеса”, сказал он.
Другие, такие как Джек Кларк из стартапа Anthropic, занимающегося искусственным интеллектом, и мистер Гейтс, выразили обеспокоенность тем, что искусственный интеллект с открытым исходным кодом может привести к угрозам безопасности, сказали присутствующие. Anthropic, Google и OpenAI заявили, что открытый исходный код может позволить посторонним проникать за ограждения безопасности и распространять дезинформацию и другие токсичные материалы.
Г-н Маск, который призвал ввести мораторий на разработку некоторых систем искусственного интеллекта, несмотря на то, что он продвигал свои собственные инициативы в области искусственного интеллекта, был одним из самых громких по поводу рисков. Он описал экзистенциальный кризис, вызванный технологией.
“Если кто-то уничтожит нас как цивилизацию, все ставки отменяются”, сказал он, по словам человека, который был в комнате. Мистер Маск сказал, что он сказал китайским властям: “Если у вас исключительно умный искусственный интеллект, Коммунистическая партия больше не будет руководить Китаем”.
Дебора Раджи, исследователь из Калифорнийского университета в Беркли, ответила мистеру Маску вопросом о безопасности беспилотных автомобилей, которые, по словам человека, который был в комнате, приводятся в действие искусственным интеллектом. Она особо отметила технологию автопилота компании Tesla, производителя электромобилей, которую возглавляет мистер Маск и которая находится под пристальным вниманием после гибели некоторых водителей.
По словам человека, который был в комнате, мистер Маск не ответил.
Некоторые законодатели раскритиковали форумы за закрытыми дверями.
“Я не понимаю, почему прессе запретили присутствовать на этой встрече”, заявила сенатор Элизабет Уоррен, демократ от штата Массачусетс, после ухода с заседания. “Большинство людей сказали: ‘Мы хотим инноваций, но мы должны защищать безопасность”.
Мистер Хоули сказал, что законодатели уделили технологическим компаниям слишком много внимания.
“Это крупнейшее собрание монополистов со времен Золотого века, и я разочарован, что это происходит не публично и не на реальных слушаниях”, сказал он.
Г-н Шумер сказал, что будущие встречи, вероятно, будут публичными, и отметил, что он пригласил на них нескольких критиков технологических компаний из профсоюзов и групп гражданского общества. Первое заседание было закрытым, чтобы стимулировать дебаты, которые были “без прикрас”, и чтобы никто не “играл на публику”, сказал он.
Благодарю Вас за публикацию. Интересно