«Любая наблюдаемая статистическая закономерность будет иметь тенденцию разрушаться, как только на нее будет оказано давление в целях контроля».
«Закон Гудхарта» правит современным миром. Девять примеров., изображение №1
Чарльзу Гудхарт - творческий теоретик денежно - кредитной политики, который провел большую часть своей карьеры в Банке Англии и Лондонской школы экономики. В прошлом году он и Манодж Прадхан выпустили хорошо принятую книгу под названием «Великий демографический поворот: стареющие общества, уменьшающееся неравенство и возрождение инфляции» .
Но все это неважно. В предстоящие годы Гудхарта, возможно, будут больше всего помнить за то, что он сказал на конференции в Сиднее, Австралия, в 1975 году, что, как он позже признал, «было задумано как шутливая, одноразовая фраза». Юмористический, да, но также проницательный. Сегодня его наблюдения регулярно цитируется в самых разных областях, от банковского дела до медицины и искусственного интеллекта, потому что они говорят нечто важное о том, как функционирует современный мир.
46 лет назад в Сиднее Гудхарт сказал, что он в шутку назвал закон Гудхарта: «Любая наблюдаемая статистическая закономерность будет иметь тенденцию разрушаться, как только на нее будет оказано давление в целях контроля». Другими словами, как британский антрополог Мэрилин Стратерн позже: «Когда мера становится мишенью, она перестает быть хорошей мерой.» Закон Гудхарта - близкий родственник закона Кэмпбелла, который был провозглашен примерно в то же время психологом Дональдом Кэмпбеллом, и Lucas Critique - экономистом Робертом Лукасом.
Часто цитируемым примером закона Гудхарта в действии является щедрость за кобр, которую правившие Индией англичане якобы платили, чтобы попытаться сократить популяцию змей. Предприимчивые индийцы быстро поняли, что они могут зарабатывать деньги, выращивая кобр, которых они убивают и дарят за награды. Точно так же, когда советские проектировщики приказали фабрикам увеличить количество производимых гвоздей, говорят, что менеджеры отреагировали на это производством миллионов крошечных бесполезных гвоздей. Когда проектировщики сообразили и перешли на весовой критерий, фабрики начали производить гигантские, тяжелые и столь же бесполезные гвозди. Историческую правду этих историй сложно определить, но суть ясна.
Как только вы запомните закон Гудхарта в своем мозгу, вы начнете видеть его в действии, куда бы вы ни посмотрели. Вот примеры:
1. Федеральная резервная система опубликовала целевой показатель инфляции на уровне 2%. В 2018 году глава ФРС Рэндал Куорлз сослался на закон Гудхарта, предупреждая, что инфляция может выйти из-под контроля, если ФРС будет полагаться на эту ставку « как на наш единственный индикатор положения экономики относительно ее потенциала». Инфляция может поначалу медленно реагировать на перегрев экономики, заставляя политиков думать, что все в порядке, «но я не сомневаюсь, что цены в конечном итоге вырастут в ответ на ограниченность ресурсов», - сказал Куорлз.
2. В 2018 году Банк международных расчетов задокументировал, что европейские банки обходят стандарты безопасности, «приукрашивая» свою финансовую отчетность, чтобы в конце каждого квартала выглядеть безопаснее. Американским банкам было труднее обойти правила, потому что их результаты оценивались в среднем за квартал, а не на конец квартала.
3. Wells Fargo & Co. заплатила 480 миллионов долларов в 2018 году для урегулирования коллективного иска, в котором инвесторы обвинили банк в мошенничестве с ценными бумагами, связанном с открытием несанкционированных счетов для клиентов. Это был классический пример закона Гудхарта: сотрудники Wells Fargo находились под сильным давлением с целью перекрестных продаж финансовых продуктов, поэтому для достижения своих целей они просто подделывали новые учетные записи.
4. Для ученых частое цитирование - это путь к должности и славе, поэтому соблазн манипулировать цитированием огромен. Сундарапандиан Вайдьянатан, ученый-компьютерщик из Технологического института Vel Tech R&D, получил награду от правительства Индии за то, что он входит в число лучших исследователей страны по продуктивности и цитируемости. Но в 2019 году журнал Nature написал, что 94% цитирований его работ за 2017 год были сделаны им самим или соавторами. Он защищался, написав, что «следующая работа не может быть продолжена без ссылки на предыдущую работу».
5. В сфере высшего образования колледжи манипулировали своими данными, чтобы занять более высокое место в влиятельном рейтинге US News & World Report . Поскольку количество заявлений имеет значение, некоторые колледжи засчитывали каждую открытку с выражением интереса как заявку. А поскольку высокий процент отказов считается престижным, некоторые колледжи «отклоняли» абитуриентов на осенний прием только для того, чтобы принять их на весенний семестр.
6. В 2015 году присяжные в Атланте признали 11 учителей виновными в рэкете и других обвинениях в том, что они обманули стандартизированные тесты с высокими ставками, подделав и сфабриковав бланки ответов учащихся. Суперинтендант школы Беверли Холл должен был получить существенную премию, если результаты общесистемных тестов вырастут в достаточной степени. Она умерла за месяц до решения жюри, долгое время отрицавшего правонарушения.
7. Рейтинг Всемирного банка по легкости ведения бизнеса настолько часто использовался, что в декабре банк опубликовал 21-страничный обзор нарушений в данных. В банке заявили, что Азербайджан, Китай, Саудовская Аравия и Объединенные Арабские Эмираты использовали «ненадлежащее давление», чтобы добиться изменений «вне соответствующего процесса проверки».
8. В сфере здравоохранения закон Гудхарта затрудняет ранжирование больниц. В 2018 году The New York Times сообщила о случае, когда больному 81-летнему ветерану было отказано в приеме в Медицинский центр Управления по делам ветеранов Roseburg в Орегоне в рамках попытки больницы «поднять рейтинг качества медицинской помощи». Директор больницы признал Times , что более избирательный подход улучшил рейтинги, но отрицал, что больница отказывается от пациентов, чтобы улучшить результаты.
9. Новая проблемная область - искусственный интеллект и машинное обучение. Люди умеют использовать закон Гудхарта, но компьютеры еще лучше. Например, глубокая нейронная сеть, предназначенная для обнаружения пневмонии при сканировании грудной клетки, в целом показала хорошие результаты, но не удалась при сканировании из новых больниц. Оказалось, что система использовала ярлык: вместо того, чтобы смотреть сканированные изображения, она сосредоточила внимание на названиях больниц, из которых были получены сканированные изображения. В некоторых больницах заболеваемость пневмонией выше. «Вместе с уровнем распространенности пневмонии в больнице она смогла достичь достаточно хороший прогноз-без обучения много о пневмонии у всех» , говорится в статье канадского и немецких авторов, в Deep Neural Networks, в прошлом году через Arxiv.
Что с этим делать? Разумно уйти от фиксированных, неизменных правил, с которыми можно легко играть. Кроме того, измеряйте то, что вы действительно хотите, а не приблизительный пример. Попробуйте использовать несколько критериев вместо одного стандарта. Но первый шаг - просто осознать проблему. Имя и упор на подводные камни измерения и вознаграждения - неизменный вклад Чарльза Гудхарта.
Источник: vk.com
