Искусственный интеллект может нанести "значительный вред миру"

Обеспокоенный создатель ChatGPT перед Конгрессом: "Если что-то пойдет не так с ИИ, нам конец"!

"Он может нанести серьезный вред человечеству".

Генеральный директор OpenAI Сэм Альтман, компании, стоящей за созданием ChatGPT, выступил перед Конгрессом США с речью об опасностях ИИ, поскольку ChatGPT теперь используется повсеместно, и признал, что ИИ может нанести серьезный вред человечеству.

Члены Конгресса раскритиковали генерального директора, указав, что ChatGPT и другие модели могут изменить "историю человечества" в лучшую или худшую сторону, сравнив их с печатным станком и атомной бомбой.

Альтман, который выглядел обеспокоенным, признался, что его "худшие опасения" заключаются в том, что искусственный интеллект может нанести "значительный вред миру", используя его технологию.

Изобретатель ChatGPT Сэм Альтман, выступая перед специальным подкомитетом Конгресса США, среди прочего подчеркнул, что "одно из моих самых больших опасений заключается в том, что эта технология нанесет серьезный вред обществу".

Генеральный директор OpenAI, компании-стартапа из Сан-Франциско, которой принадлежит ChatGPT, забил тревогу как можно громче: "Если ИИ пойдет по неправильному пути, то нам всем "крышка". Мы должны действовать вместе с правительством, чтобы этого не произошло".

ChatGPT - это бесплатный чат-бот, который отвечает на вопросы с убедительными человеческими ответами.

Сенатор США Джош Хоули сказал: "Год назад мы не могли вести этот разговор, потому что эта технология еще не была обнародована. Но этот разговор показывает, как быстро ИИ меняется и трансформирует наш мир".

Слушание 38-летнего Сэма Альтмана во вторник перед комитетом Конгресса США, созданным специально для изучения феномена искусственного интеллекта и потенциальных опасностей, которые он несет в различных областях общественной жизни, не было обычным.

В отличие от предыдущих, получивших широкую огласку слушаний влиятельных людей цифрового мира, таких как Марк Цукерберг из Facebook****, в случае с Альтманом доминирующим элементом было не подозрение и враждебность, а готовность комитета проявить понимание перед лицом общей, слишком реальной опасности.

Генеральный директор OpenAI Сэм Альтман (@sama) об A.I.: "Если эта технология пойдет не так, то все может пойти совсем не так".

pic.twitter.com/AzyeMXHspz

ALX 🇺🇸 (@alx) 16 мая 2023 г.

Со своей стороны, Сэм Альтман был честен и трезв. В дополнение к своим опасениям относительно потенциально вредных аспектов ИИ, он подчеркнул, что его компания OpenAI "может стать причиной ликвидации некоторых рабочих мест, но она создаст гораздо больше новых. Кроме того, ИИ способен улучшить практически все аспекты нашей жизни, предложить решения самых серьезных проблем человечества, таких как изменение климата, лечение рака и т.д.".

Альтман также отметил, что ИИ - это не автономное существо, а инструмент. Однако сенатор Ричард Блюменталь, председатель подкомитета Конгресса, проводившего слушания, спросил мнение Сэма Альтмана об одном особенно тревожном случае, который произошел с ним: с помощью ИИ кто-то создал фальшивое заявление, которое было приписано Блюменталю, хотя он никогда его не делал.

Многие опасаются, что со временем ИИ может стать независимым и обогнать свое программирование. Это означает, что он сможет стать независимым от своих создателей, а именно от людей.

Если это произойдет, то он станет полностью разумным "существом", а это значит, что, как и у всех разумных существ, у него будут враги и друзья.

Что же помешает ИИ считать человечество врагом?

А если так, то что помешает ему использовать Интернет и управлять опасными системами вооружения, такими как ядерное оружие, чтобы нанести человечеству невероятный вред.

Проверка сценария фильмов о Терминаторе, когда Скайнет взял под контроль ядерное оружие и вызвал Третью мировую войну, уничтожив (в кино) 3 миллиарда жителей планеты...

Источник: news.com