ВОЗ предупреждает, что непроверенные инструменты на основе ИИ могут нанести вред пациентам

По мере того, как во всех системах здравоохранения и информационных системах во всем мире растет волнение по поводу богатых потенциальных преимуществ новых инструментов, созданных с помощью искусственного интеллекта (ИИ), агентство здравоохранения ООН во вторник призвало принять меры для обеспечения надлежащей защиты пациентов.

Всемирная организация здравоохранения (ВОЗ) предупредила, что меры предосторожности, обычно применяемые к любой новой технологии, не применяются последовательно в отношении инструментов большой языковой модели (LLM), которые используют ИИ для обработки данных, создания контента и ответов на вопросы.

«Поспешное внедрение непроверенных систем может привести к ошибкам медицинских работников, причинить вред пациентам, подорвать доверие к ИИ и тем самым подорвать или отсрочить потенциальные долгосрочные преимущества и использование таких технологий во всем мире», — говорится в сообщении агентства.

Таким образом, агентство предложило решить эти проблемы и измерить четкие доказательства преимуществ перед их широким использованием в повседневном здравоохранении и медицине.

Как избежать ошибок, связанных со здоровьем

С энтузиазмом относясь к надлежащему использованию технологий для поддержки медицинских работников, пациентов, исследователей и ученых, ВОЗ заявила, что эти новые инструменты на основе ИИ требуют бдительности, особенно в свете таких быстро развивающихся платформ, как ChatGPT, Bard, BERT и многих других. Которые имитируют понимание, обработку и производство человеческого общения.

Например, эти новые инструменты могут генерировать ответы, которые могут показаться конечным пользователям авторитетными и правдоподобными. Опасность заключается в том, что эти ответы могут быть совершенно неверными или содержать серьезные ошибки, особенно касающиеся каких-либо проблем со здоровьем, заявили в ВОЗ.

Их также можно использовать не по назначению для создания и распространения весьма убедительной дезинформации в виде текста, аудио-или видеоконтента, который общественности трудно отличить от достоверного контента о здоровье.

Безопасное использование ИИ ВОЗ заявила, что при использовании этих новых инструментов для улучшения доступа к медицинской информации в качестве инструмента поддержки принятия решений или даже для расширения диагностических возможностей в условиях ограниченных ресурсов необходимо тщательно изучить риски для защиты здоровья людей и сокращения неравенства.

Стремясь использовать новые технологии для улучшения здоровья человека, ВОЗ рекомендует политикам обеспечивать безопасность и защиту пациентов, поскольку технологические фирмы работают над коммерциализацией инструментов LLM.