Перспективы и потенциальные подводные камни искусственного интеллекта в медицине

ИИ находит свое место во всех областях науки, и здравоохранение не является исключением. Программы учатся отвечать на медицинские вопросы пациентов и диагностировать болезни, но есть проблемы, которые необходимо решить. Доктор Исаак Кофеин, главный редактор New England Journal of Medicine AI и заведующий кафедрой биомедицинской информатики Гарварда, присоединяется к Джону Янгу для обсуждения.

Прочитать полную стенограмму

Джон Янг:

Искусственный интеллект находит свое место во всех областях науки, и, возможно, ни одна из них не обещает больше спасения жизней, чем программы здравоохранения, которые учатся отвечать на медицинские вопросы пациентов и диагностировать болезни. Но есть еще некоторые проблемы, которые нужно решить. Ранее я разговаривал с доктором Исааком Коханом, главным редактором New England Journal of Medicine AI и заведующим кафедрой биомедицинской информатики Гарварда. Я спросил его о потенциале ИИ в медицине.

Доктор Исаак Кохейн, главный редактор New England Journal of Medicine AI: Врачи определенно могут использовать AI в качестве дополнения, чтобы они запоминали или получали напоминания обо всем, что им следует знать о своем пациенте, своем конкретном пациенте. , и все другие подобные пациенты, подобные им.

В то же время пациенты слишком хорошо знают, что в Соединенных Штатах не хватает врачей первичной медико-санитарной помощи. И поэтому у нас очень мало времени с врачами, если мы вообще можем его найти. Таким образом, предоставление еще одного, хотя и несовершенного ресурса для получения медицинской консультации, чтобы они могли решить, действительно ли обращаться за медицинской консультацией, также, вероятно, будет иметь преобразующее значение.

Когда меня примет врач, я могу сказать, что он забыл обо мне много деталей. Что, если бы вы могли просто получить, и это выполнимо сегодня, резюме, в котором говорится, что все важные вещи, которые есть у Исаака Кохейна с медицинской точки зрения, о которых вы должны знать сегодня? А потом сказать, а что все остальные пациенты, похожие на Исаака Кохейна? Каковы правильные методы лечения? Он правильно лечится? Есть ли какие-нибудь скрининговые тесты, которые мы должны провести с ним сегодня во время его визита?

Медицина становится все более сложной. Есть много вещей, которые мы знаем, как сделать для профилактической медицины, но на самом деле профилактике уделяется все меньше и меньше внимания во многих отношениях, потому что врачи очень заняты. Эти программы ИИ не безошибочны. На самом деле, они могут ошибаться, но, по крайней мере, вы можете поговорить об этом, а затем решить, стоит ли мне обсуждать это со своим врачом?

Джон Янг:

Насколько далеки эти вещи? Как скоро они будут реализованы?

Доктор Исаак Кохан:

Прямо сейчас они очень несовершенны, но они используются сегодня. Причина, по которой они используются сегодня, заключается в том, что существует такая большая потребность. Все мы слышали о так называемом докторе Google. Дело в том, что поиском люди пользуются уже для получения медицинской консультации.

Когда прошлой зимой OpenAI выпустила ChatGPT, пациенты уже начали его использовать. Мы знаем это точно. Мы знаем, что врачи уже начали использовать. Люди не осознают, что 30 процентов затрат на здравоохранение составляют административные расходы, процедуры выставления счетов, получение разрешений, решение о возмещении расходов. Они включают в себя определенное медицинское суждение о том, насколько уместна помощь, должны ли быть допущены пациенты или нет. Итак, это происходит прямо сейчас, сегодня.

Джон Янг:

Вы много раз говорили, что он ущербен, несовершенен. Что должен искать пациент? Есть ли тревожные сигналы, на которые должен обращать внимание пациент?

Доктор Исаак Кохан:

Иногда это может быть довольно тонко, но я думаю, что очевидными являются ссылки на авторитетный источник. Проверьте этот источник. Известно, что эти программы составляют цитаты. Я знаю, что Google и Microsoft усердно работают над их устранением, создавая независимые программы.

Во-вторых, я бы никогда не стал делать что-либо рискованное без предварительной консультации с медицинским авторитетом. Поэтому, если он сказал вам сменить лекарство, чего он не сделает, но если он сказал, что это лекарство может быть неподходящим, это полезно в том смысле, что оно должно позволить вам поговорить, я бы этого не сделал. Другое дело, что использование человеческого здравого смысла оказывается невероятно полезным фильтром.

Джон Янг:

Глядя дальше в будущее, что обещает ИИ? На что разработчики, врачи и другие работники здравоохранения надеются, что он сможет сделать в будущем?

Доктор Исаак Кохан:

Поэтому я думаю, что врачи недостаточно времени проводят с пациентами. Они проводят слишком много времени в качестве бюрократов. Мы надеемся, что ИИ позаботится об этой бюрократии, что позволит врачам больше взаимодействовать с пациентами. Это краткосрочная надежда.

Долгосрочная надежда, то есть, когда я говорю «долгосрочная перспектива», я не имею в виду 20 лет, я говорю о пяти годах, заключается в том, что эти программы действительно смогут просматривать все наши данные в соответствии с правильными положениями о конфиденциальности и на самом деле придумать новые биомедицинские идеи, новые потенциальные методы лечения, группы пациентов, которые могли бы извлечь выгоду из этих методов лечения, а также фактически ускорить процесс открытия лекарств.

Потому что опять же, те же самые ограничения, которые касались людей как врачей, также затрагивают людей как исследователей наук о жизни, они не могут знать все. Они не могут знать обо всех открытиях, которые делаются одновременно. Эти программы хороши тем, что знают обо всем.

Джон Янг:

Это самая большая потенциальная ловушка? Люди слишком полагаются на это, слишком доверяют ему?

Доктор Исаак Кохан:

Я думаю, что это абсолютно абсолютный подводный камень. Прежде всего, я бы положился на наш здравый смысл. Я не убежден, как и другие, что это всегда имеет здравый смысл. И даже если бы у него был какой-то здравый смысл, в конце концов, мы должны быть верны нашим ценностям. Я почти уверен, что на данный момент мы не можем полагаться на эти программы, на то, что мы разделяем наши ценности.

Но я думаю, что самое важное, что эти компании могли бы сделать, это рассказать нам, на каких данных они обучались, на каких моделях обучались? Мы не знаем, на чем обучались эти модели. Это говорит мне, например, что я не знаю, правильно ли он представляет проблемы, которые есть у американских пациентов, или он видел много данных из Индии? И поэтому незнание того, какие данные использовались для обучения этих моделей, вызывает большую неопределенность в отношении качества и применимости к разным группам населения.Подробнее ➤