Что такое ChatGPT?
Миссия OpenAI заключается в обеспечении того, чтобы искусственный общий интеллект (AGI), под которым мы подразумеваем высокоавтономные системы, которые превосходят людей в наиболее экономически ценной работе, приносил пользу всему человечеству. Мы попытаемся напрямую создать безопасный и полезный AGI, но также будем считать нашу миссию выполненной, если наша работа поможет другим достичь этого результата. С этой целью мы обязуемся придерживаться следующих принципов:
Широко распределенные преимущества
Мы обязуемся использовать любое влияние, которое мы получаем на развертывание AGI, чтобы гарантировать, что оно используется на благо всех, и избегать использования ИИ или AGI, которые наносят ущерб человечеству или чрезмерно концентрируют власть.
Наш основной фидуциарный долг - перед человечеством. Мы ожидаем, что нам потребуется выделить значительные ресурсы для выполнения нашей миссии, но всегда будем усердно действовать, чтобы свести к минимуму конфликты интересов между нашими сотрудниками и заинтересованными сторонами, которые могут нанести ущерб широкой выгоде.
Долгосрочная безопасность
Мы стремимся проводить исследования, необходимые для обеспечения безопасности AGI, и способствовать широкому внедрению таких исследований в сообществе ИИ.
Мы обеспокоены тем, что разработка AGI на поздней стадии превращается в соревновательную гонку без времени для принятия надлежащих мер предосторожности. Поэтому, если проект, ориентированный на ценности и учитывающий безопасность, приблизится к созданию AGI раньше, чем мы, мы обязуемся прекратить конкурировать с этим проектом и начать помогать ему. Мы разработаем конкретные детали в конкретных соглашениях, но типичным условием запуска может быть “более чем равные шансы на успех в ближайшие два года”.
Техническое лидерство
Чтобы эффективно бороться с влиянием AGI на общество, OpenAI должна быть на переднем крае возможностей ИИ — одной только пропаганды политики и безопасности было бы недостаточно.
Мы считаем, что ИИ окажет широкое влияние на общество до появления AGI, и мы будем стремиться лидировать в тех областях, которые напрямую связаны с нашей миссией и опытом.
Ориентация на сотрудничество
Мы будем активно сотрудничать с другими исследовательскими и политическими институтами; мы стремимся создать глобальное сообщество, работающее сообща для решения глобальных проблем AGI.
Мы стремимся предоставлять общественные блага, которые помогают обществу ориентироваться на пути к AGI. Сегодня это включает в себя публикацию большей части наших исследований в области искусственного интеллекта, но мы ожидаем, что проблемы безопасности и охраны в будущем сократят наши традиционные публикации, одновременно повышая важность обмена исследованиями в области безопасности, политики и стандартов.