** запускает систему VRS на основе искусственного интеллекта, чтобы уменьшить предвзятость в рекламе">
Компания Meta** запустила систему сокращения отклонений на основе искусственного интеллекта (VRS) в США, чтобы уменьшить предвзятость в распространении рекламы, после работы в партнерстве с Министерством юстиции в течение года.
В июне прошлого года компания объявила о своем плане по созданию VRS для справедливого распределения рекламы в рамках соглашения с Министерством юстиции, представляющим Министерство жилищного строительства и городского развития США (HUD).
Разработка VRS была частью урегулирования жалобы, поданной в августе 2018 года, в которой платформы социальных сетей Meta** были обвинены в нарушении Закона о справедливом жилье на основе их вариантов таргетинга и процессов доставки рекламы жилья. Было сказано, что реклама компании помогает определенным демографическим группам превзойти другие посредством косвенного профилирования.
Компания заявила, что в следующем году она распространит использование VRS на объявления о трудоустройстве и кредитах в США.
“Кроме того, мы прекратили использование специальных рекламных аудиторий, что является дополнительным обязательством в урегулировании”, - сказал Рой Л. Остин-младший, вице-президент по гражданским правам и заместитель главного юрисконсульта Meta**, в блоге. Специальная аудитория рекламы была функцией, которая позволяла рекламодателям использовать ограничения на выбор аудитории для наборов объявлений, связанных с жильем, трудоустройством и кредитом.
В 2016 году расследование ProPublica показало, что рекламодатели могли создавать объявления в Facebook****, которые исключали людей по признаку этнической принадлежности.
VRS и устранение специальных рекламных аудиторий могут помочь Meta** восстановить доверие пользователей, рекламодателей и регулирующих органов, но, по словам главного аналитика Forrester Брэндона Перселла, есть предостережения.
"Хотя это шаг в правильном направлении, рекламодатели должны понимать, что, используя его, они неявно соглашаются с определением справедливости Meta**", - сказал Перселл в заявлении, отправленном по электронной почте Computerworld. "С математической точки зрения, существует 21 различных способов представления "справедливости". Здесь Meta**, похоже, оптимизирует одинаковую "точность" для разных групп — чтобы привести простой пример, мужчины и женщины, имеющие равные права, должны иметь одинаковую вероятность увидеть рекламу. Вопрос в том, кто определяет "приемлемость"? Этот подход игнорирует все исторические несправедливости, которые кодифицированы в данных, на которые опираются эти системы ".
Как работает VRS
“VRS использует новую технологию машинного обучения для показа рекламы, чтобы фактическая аудитория, которая видит рекламу, более точно отражала целевую аудиторию, подходящую для этой рекламы”, - сказал Мета.
Процесс покупки рекламы начинается с того, что создатель рекламы определяет несколько аспектов своей рекламной кампании. В отличие от предыдущих версий, в новой системе создатели рекламы не могут использовать такие параметры таргетинга, как возраст, пол и почтовый индекс, при определении аудитории для своих объявлений. После одобрения реклама включается в миллионы объявлений, уже доступных на ее платформах, объясняет Meta** в видео.
Как только рекламу увидит определенное количество пользователей, VRS измерит совокупный возраст, пол и предполагаемое расовое или этническое распределение тех, кто видел рекламу, и сравнит их с более широкой подходящей аудиторией, которая могла видеть рекламу.
Для определения предполагаемого распределения расы или этнической принадлежности VRS использует байесовский метод геокодирования фамилий (BISG) с дополнительными улучшениями конфиденциальности. BISG - это метод, разработанный RAND cooperation, который использует геокодированные адреса и фамилии, уточняя данные переписи для оценки расы и этнической принадлежности.
“Этот метод основан на дополнительных улучшениях конфиденциальности, включая дифференциальную конфиденциальность, метод, который может помочь защитить от повторной идентификации людей в агрегированных наборах данных”, - сказал Мета.
При следующем показе рекламы VRS будет использовать последние совокупные демографические показатели для распространения рекламы среди аудитории, которая более точно отражает подходящую целевую аудиторию. По мере того, как рекламу просматривает все больше людей, VRS будет соответствующим образом переоцениваться и обновляться, корректируя темп рекламы, чтобы помочь обеспечить справедливое распределение рекламы.
“Прежде чем VRS когда-либо внесет коррективы в нашу рекламную систему, она обучается с помощью формы машинного обучения, называемой обучением с подкреплением; здесь VRS узнает, как эффективно использовать темп для уменьшения демографических различий”, - сказал Мета.
Между тем, юридические проблемы, связанные с конфиденциальностью, продолжают сохраняться для Meta**, которая 4 января была оштрафована Ирландской комиссией по защите данных на 414 миллионов долларов за использование личной информации для персонализации рекламы в своих сервисах Facebook**** и Instagram****.
** запускает систему VRS на основе искусственного интеллекта, чтобы уменьшить предвзятость в рекламе">