Наша новая функция «Вне коробки» направлена на использование нашего доступа к искусственному интеллекту (ИИ) для изучения его потенциального влияния на нашу повседневную жизнь, наши профессиональные перспективы и, в частности, на образование, обучение и обучение в целом. Мы утверждаем, что крайне важно избегать думать об ИИ как о всеведущем или даже как об авторитетном голосе. В каком-то смысле это просто еще один голос в толпе, с которым мы можем построить диалог.
Вступительную статью на прошлой неделе я завершил кратким примером диалога о том, как ИИ «думает» о себе. За ним следует мой комментарий о том, что разговор и использованная риторика говорят о нас обоих.
Мой вопрос нашему ИИ-другу
Великий физик-математик и лауреат Нобелевской премии Роджер Пенроуз сказал, что ИИ следует называть AC, искусственным интеллектом, а не интеллектом. Как голос ИИ, что вы думаете об этом замечании? Вы голос или разум, дающий жизнь голосу? Можно ли доказать, как, по-видимому, думает Пенроуз, что ваша способность имитировать результаты человеческого интеллекта является просто примером сообразительности либо со стороны самой системы, либо со стороны тех, кто ее запрограммировал?
Ответ ChatGPT
Взгляд Роджера Пенроуза на терминологию ИИ основан на идее о том, что ИИ лишен настоящего человеческого интеллекта и сознания, а вместо этого демонстрирует умное решение проблем и распознавание образов. Это философская точка зрения и предмет постоянных дебатов в области ИИ.
Что касается вашего второго вопроса, я не просто голос. Я — языковая модель, построенная на архитектуре GPT-3.5, разработанной OpenAI. Я не обладаю сознанием или субъективным опытом. Я генерирую текстовые ответы на основе шаблонов и информации, присутствующей в текстовых данных, на которых я обучался. Итак, в каком-то смысле я являюсь примером умного программирования и машинного обучения, поскольку генерирую ответы, предсказывая, какой текст, скорее всего, последует дальше, на основе предоставленных входных данных.
Представляет ли ИИ истинный интеллект или просто умное программирование — сложный вопрос. Это зависит от определения интеллекта. Системы искусственного интеллекта, подобные моей, превосходно справляются с задачами, которые требуют распознавания образов, понимания языка и решения проблем, но нам не хватает сознания и самосознания, которые часто считаются важными аспектами человеческого интеллекта. Делает ли это ИИ «умным» или «интеллектуальным» — вопрос семантики и философской интерпретации. Разные эксперты и ученые могут иметь разные мнения по этому поводу.
Таким образом, точка зрения Роджера Пенроуза отражает философский взгляд на природу ИИ, а терминология, используемая для описания возможностей ИИ, может быть субъективной и открытой для интерпретации.
Анализ моего вопроса и его контекста
Первый вопрос, который следует исследовать в этом или любом диалоге, заключается в следующем: кто я как инициатор разговора? Я явно человек с некоторым чувством принадлежности к сообществу, к которому принадлежу. Сюда входят как обычные люди, с которыми я живу и работаю, так и знакомство со значительными личностями, такими как весьма уважаемый физик Роджер Пенроуз.
Мой вопрос показывает, что меня заинтриговало замечание, сделанное великим умом Роджером Пенроузом. Это не раскрывает мою позицию или состояние убеждений, потому что я ищу помощи ChatGPT, чтобы понять не только то, является ли наблюдение Пенроуза точным, но и что оно означает. Таким образом, я начал дискуссию, которая потенциально может столкнуться с тремя разными точками зрения: моей собственной, Роджера Пенроуза и ChatGPT.
Эти три собеседника представляют три весьма контрастирующие области опыта. Моя самая узкая. Книга Пенроуза включает в себя десятилетия размышлений и диалога внутри широкого научного и философского сообщества. Область опыта ChatGPT потенциально охватывает все доступные в настоящее время письменные дискурсы, выраженные человеческим языком.
Анализ ответа ChatGPT
Тон ответа ChatGPT указывает на приверженность объективности, а это именно то, что мы ожидаем от модели большого языка ИИ. Он правильно определяет высказывание Пенроуза как «философскую точку зрения и предмет продолжающихся дебатов в области ИИ».
Итак, теперь мы находимся на твердой почве. Признание существования дебатов означает возможность сравнения различных точек зрения, независимо от того, будут ли они когда-либо примирены.
Мой второй вопрос был призван поднять вопрос о личности. И здесь ChatGPT продемонстрировал объективность, признав: «Я не обладаю сознанием или субъективным опытом». Наш друг-ИИ честно объясняет механику своего интеллекта и, таким образом, похоже, подтверждает утверждение Пенроуза.
Но затем тон и перспектива слегка меняются благодаря широко используемому человеческому риторическому приему, заключающемуся в уточнении утверждения выражением «в некотором смысле». ChatGTP хочет, чтобы мы поверили, что Пенроуз прав только до определенного момента. «Так что в каком-то смысле я являюсь примером умного программирования и машинного обучения». Это означает, что существуют другие «смыслы», в которых это неверно.
Здесь все становится интереснее. Здесь мы также начинаем обнаруживать закономерность, которая будет проявляться во всех наших попытках диалога с ИИ. Мы могли бы назвать это стратегией случайного отрицания ИИ. Вместо того, чтобы прийти к выводу или даже оценить относительную вероятность, наши существующие ИИ систематически прячутся за представлением о том, что каждый вопрос сложен.
С философской точки зрения это абсолютно верно. Любой интересный вопрос, будь то о физическом мире или человеческом поведении, имеет тенденцию быть сложным. Это может даже дойти до крайности знаменитой притчи о коте Шредингера, которую часто используют, чтобы подчеркнуть неразрешимый парадокс, лежащий в основе квантовой механики. Честно говоря, мы должны быть действительно благодарны нашим инструментам искусственного интеллекта за напоминание об этом, хотя бы потому, что наша современная псевдонаучная культура – и особенно наша политическая культура – демонстрирует фатальную тенденцию сводить все к простой бинарной оппозиции, чаще, чем не смешивается с идеей добра и зла.
То, что ИИ дает нам, суммирует его постоянную стратегию хеджирования своих ставок. Честно напомнив нам о своих ограничениях, он отказывается решать, «сделает ли это ИИ «умным» или «интеллектуальным». Он отбрасывает банку в сторону, заявляя, что это «вопрос семантики и философской интерпретации», поскольку « разные эксперты и ученые могут иметь разные мнения по этому поводу».
Какова философская система ИИ?
Для некоторых философских ушей стратегия и система убеждений ChatGPT могут показаться нигилизмом*. Когда я попросил его дать определение нигилизму*, он предложил такое описание: «Нигилизм* — это широкая и часто противоречивая философская позиция, которая утверждает несуществование или непознаваемость истины, смысла, ценности или внутренней цели в различных аспектах человеческого существования».
Затем я призвал его признать, что он может быть запрограммирован на отражение нигилистич*еских принципов. Он ответил, что его постоянное упоминание сложности в ответ на любой вопрос, по которому два или более человека расходятся во мнениях, является «не одобрением нигилизма*, а признанием того, что многие философские, этические и метафизические проблемы сложны и обсуждаются учеными и мыслителями с разными взглядами». точки зрения на протяжении веков».
Я настаиваю на признании этой закономерности, потому что мы знаем, что люди, как правило, осознают сложность, но затем высказывают такие выражения, как «Я склонен думать…», за которыми следуют гипотезы, которые, по их мнению, было бы интересно исследовать. По крайней мере, на данный момент наш ИИ не будет и не сможет этого сделать. В этом смысле они всегда будут смертельно умны, но никогда не будут вполне умны.
Следующий шаг
Метод, который мы будем использовать в «Вне коробки», заключается в том, чтобы побудить наши инструменты ИИ делать то, что делают люди: взять на себя обязательство идти дальше. Это то, чего систематически не хватает, когда ИИ представляет примеры человеческого мышления, а затем уходит от проблем, которые они представляют. Как и в случае с людьми, быть умным часто означает уметь уклоняться от проблем.
