"Искусственный интеллект (ИИ) в медицине, который не был должным образом разработан и внедрен, может привести к серьезным ошибкам и потере контроля со стороны человека и, в конечном итоге, поставить под угрозу безопасность и доверие пациентов“. Эта цитата является частью ответа инструмента обработки речи „ChatGPT“ на основе искусственного интеллекта на мой вопрос о том, какое положительное и отрицательное влияние ИИ может оказать на медицину. Инструмент способен программировать, генерировать разговоры, похожие на человеческие, создавать тексты для блогов, писать электронные письма и заявки, и даже показал хорошие результаты на университетских экзаменах в тестовом режиме.
При этом „ChatGPT“ представляет собой лишь небольшой фрагмент нового мира, поддерживаемого ИИ, который сегодня распространился практически на все сферы жизни. Искусственный интеллект управляет промышленными роботами, поисковыми системами в Интернете и предоставляет нам виртуальных помощников. На нем основаны интеллектуальные системы обучения в школе и программное обеспечение, предназначенное для облегчения принятия решений в социальной и судебной системах, полиции или медицине.
Например, пациенты могут получать рекомендации по диагностике с помощью цифровых медицинских приложений на основе искусственного интеллекта, при этом некоторые производители приложений уже рекламируют, что их приложение позволяет ставить диагнозы с большей точностью, чем врачи. Распознавание изображений с помощью искусственного интеллекта также уже несколько лет способно сопоставлять портретные фотографии с данными генов и пациентов. Это позволяет довольно быстро сопоставлять симптомы с конкретными редкими заболеваниями - поскольку ИИ может сравнивать тысячи случаев за считанные секунды. ИИ также предназначен для прогнозирования важных событий в операционной в будущем и предоставления хирургам информации о дальнейших действиях.
Дивный новый мир? Компьютеры и программы начинают думать, и люди могут перестать это делать? Ни в коем случае. Я согласен с Немецким советом по этике в том, что приложения искусственного интеллекта не могут и не должны заменять человеческий интеллект, ответственность и оценку. Для этого есть множество причин. Таким образом, инструменты обработки речи, такие как „ChatGPT“, в конечном итоге оказываются не более чем всегда новыми рекомбинациями из уже существующих – они на самом деле не способны к инновациям. Международные исследовательские группы подсчитали, что запас новых высококачественных данных – в данном случае это тексты, созданные человеком, – для систем искусственного интеллекта будет исчерпан уже через несколько лет. После этого они все больше и больше тренируются с текстами, которые создали сами. Это текстовый инцест и интеллектуальное заявление о банкротстве. Кроме того, модели искусственного интеллекта обычно не способны оценить, насколько точны и полны данные, на которых они были обучены. В случае некачественных основ обучения ИИ может повторять ошибки снова и снова, что было бы катастрофой в области медицины. Только представьте себе, что пациенты получают неправильное лечение из-за решения диагностического ИИ, основанного на неверных данных. Мы должны постоянно помнить: не все, что ИИ выдает за правду, также является правдой, поэтому, учитывая быстрое развитие возможностей ИИ, возникает фундаментальный вопрос:
Можем ли мы вообще контролировать возможные недостатки или недоработки, когда человеческого интеллекта для этого уже недостаточно?
Процесс обработки данных остается „черным ящиком“
Это тем более важно, что прозрачная проверка результатов, которые дают системы искусственного интеллекта, часто невозможна. Для пользователей – а из–за огромной сложности процессов обработки данных иногда даже для разработчиков - процесс определения результатов остается пресловутым „черным ящиком“. Но если я не могу понять, почему ИИ ставит определенный диагноз, я не буду полагаться на эту рекомендацию. Другими словами, искусственный интеллект не может заменить действия врача.
Следует также учитывать: тот, кто слишком сильно зависит от технологий, может потерять необходимые навыки. Пример: многим людям сегодня очень трудно найти дорогу к месту назначения без навигационной системы. То же самое верно и в области медицины. Поскольку мы все чаще оставляем диагностику или принятие решений в ОПЕРАЦИОННОЙ на усмотрение ИИ, мы рискуем отучиться от собственного ремесла. Кроме того, в Социальном кодексе V записано: медицинское обслуживание осуществляется врачами или исключительно под их ответственность. Мы отказываемся от этого принципа, а также от стандарта врача-специалиста, когда предоставляем ИИ управлять процессами лечения.
Кроме того, во многих приложениях искусственного интеллекта возникает законный вопрос о том, является ли конфиденциальность и
Безопасность данных в достаточной степени гарантирована. Мы должны быть абсолютно осторожны, чтобы конфиденциальные данные пациентов не были коммерчески уничтожены через черный ход разработчиками приложений. Если мы действительно продолжим в том же духе с запланированным решением по отказу от сбора данных пациентов, мы достигнем конца „информированного согласия“ с нашими пациентами.
Мой вывод
Разработка подходящих компонентов ИИ для медицинской практики представляет собой чрезвычайно сложную задачу, требующую тесного междисциплинарного сотрудничества экспертов в области медицины, информатики, инженерии и юриспруденции. Это единственный способ определить подходящие алгоритмы для надежного решения определенных задач. Кроме того, необходимо обеспечить высокое качество обучающих данных, используемых алгоритмом, чтобы минимизировать возможные отклонения в результатах. Во многих случаях приложения с искусственным интеллектом не соответствуют этим требованиям и необходимым требованиям к конфиденциальности. Для этого необходимы новые правила и соответствующие договоры, регулирующие требования к разработке и применению ИИ, а также к использованию данных, при необходимости, соответствующим регулирующим органом. Не должно быть никакой шумихи под лозунгом „искусственный интеллект решает все наши проблемы". Скорее, это требует критического и трезвого осмысления того, где предполагаемый прогресс приносит пользу человечеству или ускользает от нашего контроля.
89.3к
