Когда медсестры и врачи отделения неотложной помощи принимают решения за доли секунды, используя инструмент искусственного интеллекта, кто в конечном итоге несет ответственность, если пациенту причинят вред?
Согласно недавнему руководству Федерации государственных медицинских советов, ответственность лежит исключительно на врачах, даже если ИИ предоставляется больницей или другим работодателем.
В качестве дорожной карты для аналогичных указаний со стороны групп государственного надзора FSMB описывает ИИ как мощный инструмент для административных задач, таких как планирование и документирование, а также для диагностических шагов, таких как интерпретация МРТ, рентгеновских снимков и маммограмм. По мнению группы, искусственный интеллект может даже снизить уровень выгорания и увольнений врачей.
Согласно руководству, в котором цитируются новостные сообщения и научная статья в Harvard Business Review, ожидается, что ИИ заменит до 80% текущих задач врачей. Но революция искусственного интеллекта в медицине не меняет «ключевую профессиональную ответственность» за принятие клинических решений.
«Как и в случае с любым другим инструментом или дифференциалом, используемым для диагностики или лечения заболевания, медицинские работники несут ответственность за обеспечение точности и достоверности выводов, основанных на фактических данных», — говорится в руководстве.
По данным FSMB, обязанности врача в отношении инструмента искусственного интеллекта не заканчиваются, если он в конечном итоге решит не следовать данной рекомендации.
Независимо от того, следует ли врач курсу лечения, предложенному инструментом ИИ, он должен объяснить их обоснование, особенно если это решение приводит к вредным последствиям для пациентов.
«Хотя более широкое использование ИИ может принести пользу врачу, неспособность применить человеческое суждение к каким-либо результатам ИИ является нарушением профессиональных обязанностей врача», — заявили в группе.
Руководство по «лучшим практикам» было принято голосованием делегатов FSMB, в состав которых входят члены каждой из 70 медицинских комиссий страны, на ежегодном собрании группы этой весной.
«Эти рекомендации являются одними из первых, в которых четко описываются шаги, которые врачи могут предпринять для выполнения своих этических и профессиональных обязанностей при использовании ИИ для оказания помощи», — сказал Хумаюн Чаудри, президент и генеральный директор FSMB, в своем заявлении.
«Мы надеемся, что эта политика снизит риск причинения вреда пациентам и станет руководством для врачей, предоставив рекомендации государственным медицинским комиссиям о том, как способствовать безопасному и эффективному внедрению ИИ в медицинскую практику таким образом, чтобы благополучие пациентов было приоритетом», — добавил он. .
Руководство FSMB появилось в том же месяце, когда Министерства здравоохранения и социальных служб США Управление по гражданским правам завершило разработку правила в соответствии с разделом 1557 Закона о доступном медицинском обслуживании, которое защищает от дискриминационной практики в сфере здравоохранения.
До сих пор отчет FSMB получил неоднозначные отзывы. Выступая на симпозиуме RAISE Health в Стэнфордском медицинском университете в середине мая, президент Американской медицинской ассоциации Джесси Эренфельд выразил обеспокоенность тем, что врачи будут привлечены к ответственности в соответствии с этими правилами и рекомендациями.
В соответствии с федеральными властями, «если вы используете алгоритм, а пациент подвергается дискриминации из-за этого алгоритма и причиняет вред, ответственность теперь несете только вы, как врач».
Размышляя о том, кто должен нести ответственность — клиницист, врач или кто-то еще — он указал на того, кто лучше всего может смягчить ущерб.
«Федерация государственных медицинских советов недавно опубликовала набор принципов, с которыми у нас есть некоторые сомнения, которые снова создают новые обязанности для врачей и говорят, что врач должен нести единоличную ответственность, если пациенту причинен вред. С использованием этих инструментов", - сказал он.
Это руководство расходится с убеждением организации в том, что должна быть «совместная ответственность», сказал Эренфельд.
Л. Гленн Коэн, профессор медицинского права в Гарвардском университете, рассказал Law360, что был удивлен, что в руководящих принципах FSMB уделяется такое внимание врачам. Он предположил, что некоторая ответственность должна ложиться на больничные системы, если они плохо приобретут и внедрят ИИ. Он также указал на разработчиков инструментов искусственного интеллекта, хотя и признал «некоторые препятствия» на пути предъявления им судебных исков.
Рекомендации медицинской комиссии дополняют множество попыток предвидеть влияние искусственного интеллекта в различных контекстах. Наряду с HHS, Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США и Федеральная торговая комиссия также изучают варианты регулирования быстро развивающихся технологий.
В октябре администрация Байдена опубликовала обширное руководство по искусственному интеллекту, а Всемирная организация здравоохранения опубликовала январский отчет об инструментах генеративного искусственного интеллекта, таких как ChatGPT. Оба широко рассмотрели вопрос юридической ответственности, но оставили без ответа многие вопросы.
По словам Брэдли Меррилла Томпсона, члена Epstein Becker Green , рекомендации FSMB соответствуют Закону о лекарствах 21-го века, принятому в 2016 году, который расширил определение медицинского устройства Управления по контролю за продуктами и лекарствами США, включив в него искусственный интеллект, используемый в поддержке принятия клинических решений.
Основная идея, по его словам, заключается в том, что ИИ может анализировать конкретную информацию о пациенте, чтобы дать рекомендации, но решение в конечном итоге остается за врачом.
«В то время считалось, что Конгрессу не нужно регулировать такого рода программное обеспечение, потому что принятие решений по-прежнему остается исключительно решением врача», — сказал Томпсон. «И регулирование этого входит в медицинскую практику медицинских советов штатов».
Государственные медицинские комиссии несут ответственность за лицензирование врачей, расследование жалоб, дисциплинирование тех, кто нарушает Закон о медицинской практике, и направление врачей на обследование и реабилитацию, когда это необходимо. ФСМБ оказывает поддержку этим государственным медицинским и остеопатическим советам. Группа не имеет прямой власти над врачами, и рекомендации ФСМБ не обязательно должны приниматься государственными медицинскими комиссиями.
«Это абсолютно добровольно со стороны штатов, и они могут принять его полностью, могут принять его частично, они могут изменить его так, как захотят», — сказала Кристи Кунг, председатель практики регулирования здравоохранения DLA Piper .
Кунг сказал, что медицинское сообщество заинтересовано в согласованных стандартах медицинской помощи, поскольку использование искусственного интеллекта становится все более укоренившимся, и это основная цель организации.
Эти стандарты важны для надзора государственных медицинских комиссий и регулирования лицензий врачей, а также для судебных разбирательств по врачебной халатности.
«Таким образом, это ключевой компонент обоих, и должно быть понимание стандартов медицинской помощи в обществе, чтобы оценивать действия врача в соответствии с ними», — сказал Кунг.
По словам Коэна, ключевые вопросы ответственности, возникающие при принятии клинических решений с помощью ИИ, будут заключаться в том, сделал ли врач что-то, что отличалось от стандартов медицинской помощи и причинило вред пациенту.
С юридической точки зрения, то, как врач в конечном итоге определяет курс действий из-за предвзятости автоматизации или по какой-либо другой причине, не так важно.
«Когда кто-то думает о реалиях судебного разбирательства, если дело передается в суд, перекрестный допрос врача, стоящего на месте, чтобы засвидетельствовать, что врач проигнорировал несколько предупреждений от устройства — форма предвзятости автоматизации — это было бы, если бы учтены, заставили их спасти жизнь пациента или уменьшить травмы, нанесенные пациенту, - это именно те доказательства, которые вы не хотели бы иметь перед присяжными в качестве адвоката врача", - сказал Коэн.
Руководство также предписывает поставщикам услуг, использующим инструменты ИИ, рассматривать информированное согласие как «содержательный диалог», а не как «список рисков и преимуществ, создаваемых ИИ».
«Привлечение пациента к обсуждению — это своего рода последний шаг, и рекомендации подтверждают необходимость прозрачности и необходимость обмена информацией с пациентом», — сказал Томпсон.
Хотя в руководстве FSMB говорится, что оно не регулирует инструменты или технологии, оно рекомендует государственным медицинским комиссиям изучить, как «медицинская практика» юридически определяется в юрисдикциях для тех, кто обеспечивает здравоохранение, человеческое или иное.
Кунг сказал, что, хотя государственные медицинские комиссии имеют полномочия только в отношении «медицинской практики», под которой традиционно понимается «врачи и клиницисты», FSMB теперь может предложить расширить это определение, включив в него ИИ.
"Что это значит?" — спросил Кунг. «Собираемся ли мы сейчас лицензировать ИИ, чтобы медицинские комиссии могли напрямую регулировать продукт и, как следствие, разработчиков этого продукта? Потому что, кажется, именно это и предполагает».
FSMB не ответил на многочисленные запросы о комментариях.
Докатились.
😀
😀
😀
Иииииииии 🤖
ууууууууууууууууууу 🥵
Аааааааа 😎 🤓 🥴