Когда люди думают об искусственном интеллекте (ИИ), у них могут возникнуть видения будущего. Но искусственный интеллект уже здесь. В своей основе это воссоздание аспектов человеческого интеллекта в компьютеризированной форме. Как и человеческий интеллект, он имеет широкое применение.
Голосовые персональные помощники, такие как Siri, самоуправляемые автомобили, генераторы текста и изображений - все они используют искусственный интеллект. Он также курирует наши каналы в социальных сетях. Это помогает компаниям выявлять мошенничество и нанимать сотрудников. Он используется для управления домашним скотом, повышения урожайности сельскохозяйственных культур и помощи в постановке медицинских диагнозов.
Наряду с растущей мощью и потенциалом ИИ поднимает моральные и этические вопросы. Технология уже была в центре многочисленных скандалов: нарушения законов и прав, а также расовой и гендерной дискриминации. Короче говоря, это сопряжено с целым рядом этических рисков и дилемм.
Но в чем именно заключаются эти риски? И чем они отличаются в разных странах? Чтобы выяснить это, я провел тематический обзор литературы из более богатых стран, чтобы определить шесть тем высокого уровня, связанных с универсальными этическими рисками. Затем я взял интервью у экспертов, вовлеченных в индустрию искусственного интеллекта в Южной Африке или связанных с ней, и оценил, насколько их восприятие риска искусственного интеллекта отличается от этих тем или перекликается с ними.
Полученные результаты отражают заметное сходство в рисках искусственного интеллекта между глобальным севером и Южной Африкой как примером глобальной южной нации. Но были и некоторые важные отличия. Это отражает неравноправное общество Южной Африки и тот факт, что оно находится на периферии развития, использования и регулирования искусственного интеллекта.
Другие развивающиеся страны, которые имеют схожие черты — огромный цифровой разрыв, высокое неравенство и безработица, а также низкое качество образования, — вероятно, имеют схожий профиль риска с Южной Африкой.
Знание того, какие этические риски могут возникнуть на страновом уровне, важно, поскольку это может помочь директивным органам и организациям соответствующим образом скорректировать свою политику и практику управления рисками.
Универсальные темы
Шесть универсальных тем этического риска, которые я почерпнул из обзора литературы по глобальному северу, были:
Подотчетность: Неясно, кто несет ответственность за результаты моделей и систем искусственного интеллекта.
Предвзятость: Недостатки алгоритмов, данных или и того, и другого усиливают предвзятость.
Прозрачность: системы искусственного интеллекта работают как "черный ящик". Разработчики и конечные пользователи имеют ограниченные возможности для понимания или проверки выходных данных.
Автономия: люди теряют способность принимать свои собственные решения.
Социально-экономические риски: Искусственный интеллект может привести к потере рабочих мест и усугубить неравенство.
Вредоносность: Она может быть использована преступниками, террористами и репрессивной государственной машиной.
Затем я взял интервью у 16 экспертов, вовлеченных в индустрию искусственного интеллекта Южной Африки или связанных с ней. Среди них были академики, исследователи, разработчики продуктов, связанных с искусственным интеллектом, и люди, которые разбирались в этих категориях. По большей части, шесть тем, которые я уже определил, нашли у них отклик.
Проблемы Южной Африки
Но участники также определили пять этических рисков, которые отражают особенности Южной Африки на страновом уровне. Это были:
Иностранные данные и модели: Парашютные данные и модели искусственного интеллекта из других стран.
Ограничения данных: Нехватка наборов данных, которые представляют, отражают местные условия.
Усугубляющее неравенство: искусственный интеллект может углубить и закрепить существующее социально-экономическое неравенство.
Неосведомленные заинтересованные стороны: Большинство общественности и политиков имеют лишь приблизительное представление об ИИ.
Отсутствие политики и регулирования: В настоящее время в Южной Африке нет конкретных законодательных требований или всеобъемлющих правительственных позиций по ИИ.
Что все это значит
Итак, о чем же говорят нам эти результаты?
Во-первых, универсальные риски в основном носят технический характер. Они связаны с особенностями искусственного интеллекта и имеют технические решения. Например, предвзятость может быть уменьшена с помощью более точных моделей и всеобъемлющих наборов данных.
Большинство специфичных для Южной Африки рисков носят скорее социально-технический характер, проявляясь в окружающей среде страны. Отсутствие политики и регулирования, например, не является неотъемлемой чертой искусственного интеллекта. Это признак того, что страна находится на периферии технологического развития и разработки соответствующей политики.
Поэтому южноафриканским организациям и директивным органам следует сосредоточиться не только на технических решениях, но и внимательно рассмотреть социально-экономические аспекты искусственного интеллекта.
Во-вторых, низкий уровень осведомленности населения свидетельствует о том, что на южноафриканские организации оказывается незначительное давление с целью демонстрации приверженности этическому ИИ. Напротив, организации на глобальном севере должны проявлять осведомленность об этике искусственного интеллекта, поскольку их заинтересованные стороны более осведомлены о своих правах в отношении цифровых продуктов и услуг.
Наконец, в то время как в ЕС, Великобритании и США существуют зарождающиеся правила и подзаконные акты, касающиеся искусственного интеллекта, в Южной Африке нет регулирования и ограниченные законы, относящиеся к ИИ.
Правительство Южной Африки также не смогло должным образом оценить более широкое влияние ИИ и его этические последствия. Это отличается даже от других развивающихся рынков, таких как Бразилия, Египет, Индия и Маврикий, которые имеют национальную политику и стратегии, поощряющие ответственное использование искусственного интеллекта.
Движение вперед
На данный момент искусственный интеллект может показаться далеким от преобладающих социально-экономических проблем Южной Африки. Но в ближайшие годы это станет повсеместным явлением. Южноафриканские организации и политики должны активно регулировать риски, связанные с этикой искусственного интеллекта.
Это начинается с признания того, что искусственный интеллект представляет угрозы, отличные от тех, что существуют на глобальном севере, и которыми необходимо управлять. Руководящим советам следует включить этику искусственного интеллекта в свои повестки дня, а директивным органам и членам руководящих советов следует ознакомиться с этой технологией.
Кроме того, риски, связанные с этикой искусственного интеллекта, должны быть добавлены к стратегиям корпоративного и государственного управления рисками — аналогично изменению климата, которому 15 или 20 лет назад уделялось мало внимания, но сейчас оно занимает видное место.
Возможно, самое главное, что правительству следует опираться на недавний запуск Института искусственного интеллекта Южной Африки и внедрить индивидуальную национальную стратегию и соответствующее регулирование для обеспечения этичного использования искусственного интеллекта.
