Ник Бостром говорит, что чат-боты с искусственным интеллектом могут иметь некоторую степень разумности

Оно живое!

Один из ведущих мировых философов искусственного интеллекта утверждает, что некоторые чат-боты могут проявлять проблески разума, но это не обязательно означает то, что вы думаете.

В интервью New York Times ученый из Оксфорда Ник Бостром сказал, что вместо того, чтобы рассматривать концепцию разума как «все или ничего», он думает о ней с точки зрения степеней, и когда эта структура применяется к быстро развивающемуся миру. ИИ, все начинает выглядеть по-другому.

«Я был бы вполне готов присвоить очень небольшую степень широкому кругу систем, включая животных», — сказал Бостром, директор Оксфордского института будущего человечества. «Если вы признаете, что это не вопрос «все или ничего», то не так драматично говорить, что некоторые из этих помощников [ИИ] могут быть кандидатами на наличие некоторой степени разумности».

Лига Справедливости

В то время как те, кто предположил, что ИИ могут стать немного разумными, — в том числе экс-сотрудник Google Блейк Лемуан и Илья Суцкевер из OpenAI — были достаточно насмешливы, Бостром сказал, что настаивание на обратном не объясняет, насколько умны эти чат-боты на самом деле.

«Я бы сказал, что с этими большими языковыми моделями [LLM] я также думаю, что им несправедливо говорить, что они просто извергают текст», — сказал Бостром. «Они демонстрируют проблески творчества, проницательности и понимания, которые весьма впечатляют и могут показать зачатки рассуждений».

Более того, философ, родившийся в Швеции, сказал, что LLM «вскоре могут развить представление о себе как о сохраняющемся во времени, размышлять о желаниях, социально взаимодействовать и формировать отношения с людьми».

И если ИИ станут более разумными, добавил он, это может полностью изменить игру.

«Если бы ИИ проявлял признаки разума, он, вероятно, имел бы определенный моральный статус», — сказал Бостром. «Это означает, что будут определенные способы лечения, которые будут неправильными, точно так же, как было бы неправильно пинать собаку или медицинские исследователи проводить операцию на мыши без анестезии».

Хотя эта линия рассуждений сбивает с толку и, по мнению некоторых недоброжелателей, бесполезно преждевременна, важно начать думать об этом сейчас. В конце концов, если кто-то, посвятивший всю свою жизнь изучению этого материала, считает, что нам нужно серьезно относиться к концепции разума ИИ, то, возможно, нам следует прислушаться.

Еще о морали ИИ: эксперты настаивают на правах личности для «сознательных» ИИ будущего