Нейросеть и медицина: где заканчивается помощь и начинается риск
Желание мгновенно получить ответ на вопрос о самочувствии делает чат-боты популярными «экспертозаменителями». В условиях, когда люди устали от неопределённости и недоверия к миру, дружелюбный и всегда готовый выслушать ИИ кажется идеальным помощником. Так, например, по данным OpenAI, более 40 миллионов человек ежедневнообращаются к ChatGPTдля поиска ответов на вопросы, связанные со здоровьем.
Однако самодиагностика по симптомам с помощью алгоритмов крайне опасна. Нейросеть не способна провести осмотр, измерить давление или оценить объективный статус пациента. Она лишь выдаёт текст на основе наиболее частых совпадений в интернете, что нередко приводит либо к ложному успокоению, либо к панике. Зафиксированы случаи, когда излишняя надежда на советы нейросетей заставляла людей отказываться от жизненно необходимых операций или следовать опасным рекомендациям, приводящим к тяжёлым последствиям.
Главное ограничение искусственного интеллекта заключается в отсутствии реальной эмпатии, клинического мышления и юридической ответственности. Врачебный приём или психотерапевтическая сессия — это всегда встреча двух живых сознаний, где специалист опирается на профессиональную интуицию, тактильный осмотр (пальпацию, перкуссию) и многолетний опыт. Нейросеть же работает как эхо, подстраиваясь под ожидания пользователя, но не разделяя с ним ответственность за результат.
Кроме того, языковым моделям свойственны галлюцинации — уверенная генерация вымышленных, недостоверных или опасных сведений.
Машина не способна учесть индивидуальные особенности организма, скрытые хронические патологии или совместимость лекарств так, как это делает квалифицированный врач, несущий моральную и юридическую ответственность.
Искусственный интеллект приносит пользу, если использовать его исключительно как вспомогательный инструмент для работы с текстом и информацией. Без вреда для здоровья у чат-бота можно запросить:
— объяснение сложных медицинских терминов или результатов анализов простыми словами;
— помощь в составлении структурированного списка вопросов для предстоящей консультации с профильным специалистом;
— справку об этапах проведения стандартных процедур (например, МРТ или сдачи крови) для снижения уровня тревожности;
— сбор хронологии собственной медицинской истории и организационную подготовку документов.
При этом определённо не следует доверять алгоритму постановку диагнозов, назначение дозировок лекарств и принятие решений об отказе от посещения клиники.
Самолечение с использованием нейросети рискованно, однако профессиональные медицинские системы на базе ИИ демонстрируют впечатляющие успехи. Современные алгоритмы успешно решают следующие задачи:
—анализ медицинских изображений.За два года пандемии скорость обработки нейросетями КТ-снимков увеличилась на 70%, а точность определения признаков ковидной пневмонии достигла уже 94%. В рамках масштабных экспериментальных проектов нейросети обрабатывают миллионы снимков КТ, МРТ и рентгенографии;
—поддержка принятия решений.Специализированные платформы анализируют показатели пациентов, предупреждают о несовместимости препаратов и снижают риск врачебных ошибок;
—автоматизация документации. Система распознавания речи транскрибирует диалог во время приёма, частично разгружая врача от ручного заполнения медицинской документации;
—предиктивная аналитика. Алгоритмы мониторинга состояния пациентов прогнозируют риски осложнений в реанимациях и стационарах, помогая предотвращать критические состояния.
Оригинальный материал:
RT на русском