Действительно ли искусственный интеллект обладает сознанием? Философ из Кембриджа предупреждает, что мы, возможно, никогда этого не узнаем

В недавнем исследовании, опубликованном в журнале Mind and Language , Макклелланд утверждает, что наши данные о природе сознания слишком ограничены. По мнению эксперта, единственной оправданной позицией перед лицом развития ИИ является агностицизм.

Не существует и не будет в ближайшем будущем достоверного теста для обнаружения проблеска самосознания в кремниевой системе.

Совесть против разумности: этический нюанс.

Один из ключевых моментов аргументации Макклелланда — различие между сознанием и чувственностью.

В то время как сознание позволило бы ИИ обладать восприятием или самосознанием — состоянием, которое может быть нейтральным, — чувственность подразумевает способность испытывать как позитивные, так и негативные переживания.

«Разумность включает в себя осознанные переживания, которые могут быть хорошими или плохими, и именно это делает существо способным страдать или наслаждаться. Вот тут-то и вступает в игру этика», — объясняет Макклелланд.

В качестве иллюстрации он приводит пример беспилотных автомобилей: автомобиль, «проживающий» на дороге, — это потрясающий технический прогресс, но он лишен этической значимости.

Настоящая проблема возникнет только в том случае, если этот автомобиль начнет испытывать эмоциональную реакцию на пункт назначения.

"Авантюризм" отрасли

В нынешних дебатах мнения разделились на два основных лагеря. Сторонники утверждают, что если ИИ воспроизведет функциональную архитектуру разума («программное обеспечение»), он будет — или уже является — сознательным, даже если будет работать на кремниевых чипах; скептики же считают, что сознание зависит от конкретных биологических процессов внутри живого организма, и что любая симуляция на кремнии — это всего лишь пустая оболочка. Макклелланд критикует обе позиции как «прыжки веры», лишенные прочной научной основы.

По мнению философа, у нас нет ни глубокого объяснения сознания, ни доказательств того, что оно может возникнуть исключительно в результате вычислений.

Философ также предупреждает об опасностях ажиотажа вокруг рекламы.

Технологические компании могут использовать неспособность доказать существование сознания в качестве маркетингового инструмента для продажи предполагаемого «высшего интеллекта». Такой подход не только вводит в заблуждение, но и отвлекает ресурсы от решения реальных этических проблем.

Макклелланд указывает на вопиющее противоречие: пока мы беспокоимся о потенциальной способности «сложного тостера» (чат-бота) к ощущению собственного разума, мы игнорируем страдания триллионов животных, таких как осьминоги и омары, чья способность чувствовать гораздо более научно обоснована.

В заключение Макклелланд предупреждает об экзистенциальной токсичности формирования эмоциональных связей с машинами.

Если пользователи убедятся, что их чат-бот обладает душой и правами, основанными на иллюзии, созданной языком, психологические и социальные последствия могут быть глубокими и необратимыми.

источник