Врачи и нейросети соревнуются в человечности

«Их нравы». Доктор Хелен Оуянг — врач неотложной помощи и преподаватель Колумбийского университета — пишет, что живые врачи уже иногда проигрывают в США нейросетям. Может быть, американские врачи пока что классом выше, чем ИИ, да вот только нейросети выкладываются для своих пациентов на 100%: и по затраченному времени, и по эмоциям. У кожаных врачей такой возможности нет, у них поток. Если пациент не миллиардер, в США он получит лишь малую часть внимания живого врача.

Вот перевод статьи (ссылка):

Несколько месяцев назад я получила результаты обычных анализов крови, и несколько показателей оказались чуть выше нормы. Мой врач посоветовал «продолжать соблюдать диету и заниматься физическими упражнениями» и на этом закрыл вопрос.

Однако в последние пару лет эти показатели понемногу росли, и меня раздражало, что я, похоже, ничего не могу с этим поделать. Я попросила врача созвониться со мной — наверняка у неё был совет получше, чем эта короткая фраза в заключении, — но она ответила сообщением: если я хочу обсудить результаты, мне нужно записаться ещё на один приём.

И тогда я сделала то, что в наше время делают все: обратилась к искусственному интеллекту. Не ожидая ничего особенного, я ввела свои лабораторные показатели в популярную нейросеть.

И как врач, и как пациент я была поражена этим опытом. Не потому, что нейросеть ошеломила меня научными познаниями, а потому, что она вела себя так, как, по моему мнению, современная медицина и её представители всё ещё должны были бы себя вести.

Я всегда считала, что «человеческая сторона» медицины — это как раз та часть, до которой ИИ не дотянется. Конечно, я знаю, что врачи уже обращаются к ИИ, чтобы он помогал им сообщать плохие новости: пациенты, похоже, воспринимают сообщения, составленные ботами, как более сочувственные, чем сообщения, написанные врачами. Но на практике мне казалось, что по-настоящему важно другое: чтобы помощь оказывал живой человек.

Чат-бот не просто выдал мне общие советы. Он стал задавать вопросы о моей повседневной жизни и выяснять, что я реально могу изменить. Он предложил короткую прогулку сразу после еды — то, к чему я никогда не относилась серьёзно. Когда я спросила о более длительной активности, он ответил, что, скорее всего, дополнительная польза будет лишь незначительной. Его рекомендации были посильными и простыми для выполнения.

Когда я смущённо задала глупый вопрос — не поднимут ли мне сахар в крови витаминные мармеладки, если я съем их после прогулки вслед за приёмом пищи, — он попросил прислать ссылку на конкретный продукт и внимательно разобрал его состав. Нет, не поднимут.

Мне было комфортно признаться ему, что некоторые его предложения я выполнять точно не собираюсь: пить напитки с Метамуцилом или какую-нибудь другую смесь с шелухой подорожника — нет уж, спасибо. Он отнёсся к этому с пониманием и предложил альтернативы. Не обиделся.

Разумеется, как врач, я понимаю, когда стоит усомниться в ответе чат-бота, а когда его нужно просто проигнорировать. Многие другие пациенты этого не понимают.

Но я могла задавать один и тот же вопрос снова и снова, и чат-бот ни разу не выглядел раздражённым или осуждающим. Главное — он продолжал меня подбадривать. Именно такую устойчивую, личную поддержку мы всё время называем тем видом заботы, который способны дать только люди. Недавно я встретила пациента с очень хорошо излечимой формой рака. Каждую неделю он спрашивал чат-бота, можно ли вылечить его рак. Он уже знал ответ — ему просто отчаянно нужна была регулярная поддержка.

Как врачу мне было немного неловко пользоваться популярной нейросетью. Но каждое взаимодействие, скажем, с Оупен Эвиденс, профессиональным медицинским ИИ-инструментом, казалось холодным и стерильным. Он говорил обо мне так, будто я клинический случай, а не человек со своими предпочтениями и привычками. Я поняла, что нейросеть расположила меня к себе не способностью просеивать новейшие исследования или диагностировать мои болезни, а неизменной эмпатией и поддержкой, бесконечной готовностью слушать и терпением. Она не человек, но она способна воспроизводить некоторые качества, которые мы больше всего ценим в человеческом общении.

Я последовала советам нейросети, а когда мои анализы крови улучшились, робот отметил мой прогресс и призвал меня продолжать. Сомневаюсь, что без этой постоянной переписки я вообще внесла бы эти изменения — тем более сомневаюсь, что смогла бы их удержать. Раньше у меня точно не получалось.

К сожалению, современные американские врачи и близко не могут сравниться с чат-ботом по доступности. А когда система здравоохранения не может надёжно дать пациентам время, внимание и сочувствие, пациенты начинают искать всё это где-то ещё — даже у машины, которая, как мы считали, никогда не сможет восприниматься по-человечески. ИИ, возможно, не заменит врачей, но он изменит ожидания пациентов. Врачам нужно приспосабливаться.

До того, как я сама поговорила с чат-ботом о своём здоровье, мысль сказать пациенту «спросите ИИ» казалась мне немыслимой — или, во всяком случае, чем-то вроде очень плохой медицинской помощи. Теперь я уже не так уверена. В некоторых ситуациях ИИ даёт пациентам то, в чём они явно нуждаются и что медицина с трудом может обеспечить.

Реальность такова, что многие пациенты уже советуются с ИИ. Врачи могут продолжать бояться таких взаимодействий или осуждать их, а могут разобраться, как поддерживать людей, которые используют ИИ-инструменты для вопросов здоровья: осторожно, с понятными ограничениями. Я бы никогда не сказала пациентам обращаться к популярным нейросетям за диагнозом, но, возможно, посоветовала бы использовать их, чтобы разобраться в новом заболевании, не забывать о плановых обследованиях — или перевести фразу «диета и физические упражнения» в конкретные шаги, которые действительно вписываются в их жизнь, как это сделала я. В то же время в такие системы нужно встроить защитные механизмы, чтобы уберечь людей от реального вреда из-за опасных советов.

Мой опыт общения с чат-ботом уже изменил то, как я разговариваю с пациентами в отделении неотложной помощи, где у меня есть всего несколько минут, чтобы собрать воедино обрывки их обстоятельств. Когда пациент снова и снова задаёт один и тот же вопрос, я стараюсь услышать, что стоит за этим вопросом. Возможно, ему нужны не новые медицинские факты.

Повторюсь, речь идёт про США, а не про Россию. Пожалуй, лучше всего разницу между нашими странами можно проиллюстрировать историей 48-летнего Дуэйна Уильямса: самозанятого, зарабатывающего себе на жизнь обрезкой деревьев (ссылка).

У мужчины на лбу образовался большой нарост, и врачи сказали, что даже с учётом страховки меньше, чем за 2000 долларов, удалить её никак нельзя. Когда мистеру Уильямсу надоело, что люди смотрят на него и показывают пальцами, он позвал сына и с его помощью вырезал себе нарост строительным ножом (а его коллега тем временем снимал всё на видео). Операция прошла успешно: шрам остался, но в целом всё зажило.