ООН предупреждает об опасностях интерфейсов мозг-компьютер: ИИ может манипулировать человеческим мозгом

ООН предупреждает об опасностях интерфейсов мозг-компьютер: ИИ может манипулировать человеческим мозгом

Сетевые технологии Феникса

·2023-07-17 15:18

сосредоточиться на

Чиновники ООН говорят, что, хотя нейротехнологии могут изменить жизнь, это может иметь свою цену.

Phoenix Network Technology News «AI Sentinel» по пекинскому времени 17 июля новости, Организация Объединенных Наций на прошлой неделе предупредила о «потенциальном вреде», вызванном быстрым прогрессом нейротехнологий, заявив, что имплантаты мозга и сканирование мозга могут создать искусственный интеллект (ИИ) манипулирует человеческим мозгом и вторгается в частную жизнь человека.

Мариаграция Скиччарини (Mariagrazia Squicciarini), экономист ЮНЕСКО (ЮНЕСКО), специализирующаяся на ИИ, говорит, что с благословения алгоритмов ИИ в последнее время быстро развиваются нейротехнологии. Значительно укрепились». В настоящее время алгоритмы ИИ способны обрабатывать данные и учиться на них, как никогда раньше.

ИИ может манипулировать механизмами мозга

Тем не менее, поскольку ИИ расширяет область нейротехнологий, ему потребуется регулирование. Габриэла Рамос, помощник генерального директора ЮНЕСКО по социальным и гуманитарным наукам, сказала, что технология искусственного интеллекта может быть «дальновидной и потенциально вредной».

«Мы на пути к миру, где алгоритмы позволят нам расшифровывать мыслительные процессы людей и напрямую манипулировать механизмами мозга, стоящими за намерениями, эмоциями и решениями людей».

Генеральный секретарь ООН Антониу Гутерриш заявил, что нейротехнологии «быстро развиваются» и требуют этического кодекса для защиты прав человека. ЮНЕСКО заявила на конференции в Париже, что агентство приступило к разработке глобальной «этической основы» для решения проблем прав человека, возникающих в связи с нейротехнологиями.

Чиновники ООН говорят, что, хотя нейротехнологии могут изменить жизнь, это может иметь свою цену. Например, ЮНЕСКО взяла интервью у Ханны Галвин, женщины, страдающей эпилепсией. Она установила в мозг нейротехнологическое устройство, которое обнаруживает судороги и уведомляет пациентов, когда нужно лечь. Однако устройство в конечном итоге ухудшило жизнь Кальвина. Кальвин сказал, что у нее эпилепсия случалась до 100 приступов в день, из-за чего устройство продолжало работать со сбоями.

В конце концов, Кальвин удалил нервное устройство. «Я чувствовала, что в моей голове кто-то есть, но это была не я. Я становилась все более и более подавленной. Мне это совсем не нравилось», — сказала она.

Но Скечарини также отметил, что нейротехнологии могут быть «замечательными» для других, позволяя слепым снова видеть мир или парализованным снова ходить.

Моральные рамки

Одри Азуле, генеральный директор ЮНЕСКО, в июне предложила «общую этическую основу на международном уровне» для нейротехнологий. "Нейротехнологии могут помочь при многих проблемах со здоровьем, но они также могут получить доступ и манипулировать человеческим мозгом, а также генерировать информацию о нашей личности, эмоциях. Это может поставить под угрозу наши права на человеческое достоинство, свободу мысли и неприкосновенность частной жизни", - сказал Азулай.

В мае американские ученые показали, что они использовали сканирование мозга и искусственный интеллект, чтобы перевести «суть» человеческого мышления в слова, но им нужно было провести долгие часы в больших функциональных машинах магнитно-резонансной томографии (фМРТ).

Позже в том же месяце Neuralink, компания, занимающаяся интерфейсом мозг-компьютер, принадлежащая миллиардеру Илону Маску, получила одобрение регулирующих органов США на начало испытаний на людях по вставке мозговых имплантатов размером с монету в мозг добровольцев. Маск сказал, что его конечной целью является обеспечение того, чтобы люди не были интеллектуально перегружены искусственным интеллектом. Однако в прошлый четверг он запустил собственную компанию xAI, занимающуюся искусственным интеллектом.

Инвестиции в нейротехнологические компании выросли в 22 раза с 2010 по 2020 год, до 33,2 млрд долларов, согласно новому отчету ЮНЕСКО, в соавторстве со Сккечарини. В отчете говорится, что количество патентов, поданных на нейротехнологические устройства, удвоилось в период с 2015 по 2020 год, при этом на США приходится почти половина мировых патентов. Ожидается, что к 2027 году рынок нейротехнологических устройств достигнет 24,2 миллиарда долларов. Совет Безопасности ООН соберется на этой неделе, чтобы обсудить риски, связанные с искусственным интеллектом. Fenghuang Technology «AI Frontier» будет продолжать уделять этому внимание.

Источник