Появление искусственного интеллекта в здравоохранении означает, что каждый может иметь врача в своем кармане, но главный врач Google призывает быть осторожными в отношении того, что может делать ИИ и какие должны быть его ограничения.
«У людей будет возможность получать еще более доступные услуги и услуги высокого качества», — сказала доктор Карен ДеСальво в интервью Guardian Australia на прошлой неделе.
«Но нам еще далеко до этого. У нас есть много вещей, которые нужно решить, чтобы убедиться, что модели адекватно ограничены, что они фактические, последовательные и соответствуют этическим принципам и принципам равенства, которые мы хотим принять, но я очень взволнована потенциалом, даже как врач».
ДеСальво, бывший чиновник администрации Обамы по вопросам здравоохранения, возглавляет здравоохранительное подразделение Google с 2021 года и впервые посетила Австралию в своей должности на прошлой неделе. Она сказала, что ИИ будет «инструментом в арсенале» для врачей и может помочь решить проблемы нехватки медицинского персонала и улучшить качество оказываемой помощи. Он будет заполнять пробелы, а не заменять врачей, добавила она.
«Иногда я должна сказать как врач: ‘О, у меня в арсенале есть новый стетоскоп, называемый большой языковой моделью, и он делает много удивительных вещей’. Но он не заменит врачей — я считаю, что это инструмент в моем арсенале».
На прошлой неделе исследовательская работа Google, опубликованная в журнале Nature, анализировала, как большие языковые модели (LLM) могут отвечать на медицинские вопросы, включая собственную модель Med-PaLM LLM.
LLM были заданы 3 173 наиболее распространенных медицинских вопросов, задаваемых в Интернете, и результаты показали, что система Med-PaLM генерировала ответы, соответствующие ответам врачей, в 92,9% случаев. Ответы, которые могут привести к неблагоприятным последствиям, составляли 5,8%. Авторы отметили необходимость дальнейшей оценки.
ДеСальво сказала, что это все еще «этап испытаний и обучения», но LLM могут быть лучшими помощниками для врачей, предоставляя им доступ к каждой книге в мире.
«Я отношусь к тем, кто видит потенциал здесь, и мы должны быть смелыми, думая о том, какие могут быть потенциальные применения, чтобы помочь людям по всему миру».
Однако она подчеркнула, что ИИ никогда не должен заменять людей в диагностике и лечении пациентов, указав на возможные опасения в связи с возможностью неправильной диагностики, поскольку ранние LLM склонны к так называемым «галлюцинациям ИИ», выдумывая источники информации, чтобы подогнать ответ.
«Одна из вещей, на которых мы очень сосредоточены в Google, — это настройка модели и ограничение модели таким образом, чтобы она была фактической», — сказала она. «Будь то для врача или пациента, вы не хотите получить сонет о своей химиотерапии, вы хотите знать, что говорит литература и правильно ли это».
ДеСальво сказала, что конечная цель — устранить информационный дисбаланс между медицинской отраслью и общественностью и передать пациентам как можно больше власти.
«Информация является определяющим фактором здоровья. И это начинается с того, чтобы люди понимали и знали о потенциальном состоянии… Мы хотим убедиться, что у людей есть эта информация и возможность действовать», — сказала она.
«Когда я работала врачом, мне нравилось, когда пациенты приходили с распечатанными листами или спирально связанным блокнотом, где были записаны все показатели глюкозы, и мы могли вести настоящий разговор».