Wired рассказывает, что за последние четыре месяца медсестра интенсивной терапии Амбер Ретцлофф из Флориды запросила 50 конкретных смен по 12 часов. Однако более чем в половине случаев программное обеспечение для составления расписания, powered by Palantir, назначало ей другие смены, часто ставя на подрядные дни и оставляя её в эмоциональном истощении. Ретцлофф не ожидает, что всегда будет получать желаемые смены, но, по её мнению, инструмент значительно хуже учитывает её предпочтения, чем менеджеры, которые назначали смены вручную. Опыт Ретцлофф отражает ситуацию других медсестёр в HCA Healthcare, крупнейшей сети больниц в США. С 2023 года HCA внедрила инструмент AI для составления расписания, который она совместно разработала с Palantir, под названием Timpani, примерно в 130 из 190 своих учреждений. Больница Ретцлофф приняла его почти два года назад. «Никто не доволен Timpani», — говорит Ретцлофф, повторяя слова пяти медсестёр из других учреждений, которые делились своими мнениями в интервью с WIRED. «Все постоянно жалуются». Другие предполагаемые работники HCA выражают аналогичные недовольства о инструменте на платформах, таких как Reddit. Медсестры, общавшиеся с WIRED, утверждают, что Timpani потенциально навредил пациентам, вызвав нехватку, несбалансированность и усталость команд ухода. Работая с минимальным контролем, они говорят, что инструмент регулярно назначает слишком мало медсестёр или недостаточно опытных специалистов на смены, особенно по воскресеньям. Он также часто игнорирует заявленные медсестрами предпочтения по распределению смен, работе в ночное время и выходные, или по конкретным дням отдыха. В результате медсестры утверждают, что им приходится тратить больше времени на попытки обмена сменами или обжалования своих расписаний, чем до появления программного обеспечения. Они также считают, что коллеги всё чаще пропускают смены, используя оплачиваемое или неоплачиваемое время для пропуска назначений, хотя делать это более нескольких раз в год ставит их под угрозу увольнения. Ретцлофф, 34 года, лидер профсоюза National Nurses United с десятилетним опытом работы, вспоминает недавние смены, когда все четыре её коллеги были новичками. Поскольку она была единственной старшей медсестрой, Ретцлофф говорит, что ей пришлось задерживать уход за самыми тяжёлыми пациентами, чтобы провести новичков через более лёгкие случаи. HCA «позволяет AI диктовать», говорит Ретцлофф. «Мы отменяем клиническое суждение и человеческий аспект здравоохранения с помощью приложения». Ранее менеджеры вручную управляли расписанием и обычно консультировались с медсестрами заранее, когда отменяли запросы. С Timpani медсестры сообщают, что им нужно делать альтернативные назначения с меньшим уведомлением и увеличилось количество временных перераспределений в другие команды. «Я не могу вспомнить никаких проблем раньше», — говорит анонимная медсестра без профсоюза из Техаса, которая попросила остаться неизвестной из-за страха перед репрессиями со стороны HCA. «Всё было вовремя». Представитель HCA Хarlow Sumerford говорит, что окончательные решения о расписании принимают не Timpani, а руководители медсестёр. Утверждения о том, что инструмент «разработан для сокращения штата за счёт ухода за пациентами», по его словам, являются искажением фактов. Цель HCA — «обеспечить наличие правильных специалистов с правильными навыками и опытом, чтобы удовлетворить потребности наших пациентов, учитывая при этом предпочтения в расписании наших коллег», говорит Sumerford, отмечая, что компания продолжает улучшать Timpani на основе отзывов медсестёр. В среднем Timpani назначает медсестрам 1 процент их запрашиваемых выходных дней, или так называемых красных дней, по данным HCA. Ли Баркер, медсестра HCA из Миссури, говорит, что хотя это число может показаться относительно низким, получать расписание на красные дни ранее было немыслимо в их учреждении. Но менее чем через год после внедрения Timpani, Баркер говорит, что теперь практически каждая медсестра была назначена на день, когда она должна была быть свободной. Баркер отложила долгожданный визит к врачу по хроническому заболеванию после того, как не смогла обменять назначенный красный день. «Кажется, что нас пинают, когда мы уже на дне», — говорит Баркер. Жалобы на Timpani побудили руководство HCA внести небольшие обновления в программное обеспечение, но проблемы всё ещё сохраняются, по словам медсестёр по всей стране. Руководители National Nurses United, профсоюза, представляющего около 10 000 из 100 000 медсестёр HCA, говорят, что компания отклонила их запросы о предоставлении информации о технологии. Некоторые предполагаемые детали стали известны в июле, когда бывший менеджер по данным HCA, Энджелика Рассел, подала в суд на компанию, обвиняя её в увольнении в ответ на её опасения по поводу Timpani. Она обвинила HCA в регулярном удалении данных, которые инструмент использует для составления расписания, что препятствовало аудиту его работы и могло нарушать несколько законов в области здравоохранения. Timpani была создана на платформе Palantir Foundry, программном обеспечении для хранения и анализа различных данных из операций компании. Названная в честь музыкального инструмента, она использует алгоритмические прогнозы объёмов пациентов и потребностей в штате для автоматического составления расписаний медсестёр. Когда Timpani была запущена в 2023 году, главный исполнительный директор HCA по инновациям Майкл Шлоссер сказал WIRED, что это сэкономит время и деньги, а также устранит фаворитизм в назначении смен. Шлоссер заявил в статье в этом июле, что Timpani значительно сократила количество часов, которые менеджеры тратят на составление расписания каждый месяц, уменьшила зависимость от дорогих контрактных медсестёр для заполнения смен и увеличила удержание. «Эффективность достигается за счёт генерации AI более сильных первоначальных расписаний», — написал он, добавив, что более 98 процентов «включают смешение навыков и опыта». Политика ответственного AI HCA подчеркивает защиту людей от «физического» или «эмоционального» вреда, и руководители заявили, что они общались с медсестрами и подходили с эмпатией к разработке Timpani. В рекламных материалах компания представляет медсестёр, хвалящих инструмент за его простоту использования и экономию времени. Тем не менее, другие медсестры HCA говорят, что они чувствуют себя проигнорированными и неуважаемыми, и они не единственные работники здравоохранения, которые выразили обеспокоенность по поводу внедрения Palantir в их отрасль. Rayus Radiology, крупная сеть медицинской визуализации в США, начала получать жалобы на ошибки в расписании в начале этого года после внедрения инструмента, также построенного на Palantir Foundry, согласно внутренним документам, просмотренным WIRED. Программное обеспечение предназначено для заполнения полей расписания на основе запросов врачей. Но в ряде случаев оно связывало запросы с неправильными профилями пациентов, указывало тесты или сканирования, которые не соответствовали запросам, или выдавало вымышленные данные о пациентах. Составители расписания, работающие в Rayus, подозревают, что нестандартные формы, неразборчивый почерк и недостаточный человеческий контроль способствовали возникновению проблем. Представитель Rayus Кит Крансер говорит, что «широкие характеристики» не отражают «процессы, меры предосторожности или обязательства к безопасному, точному и своевременному уходу за пациентами». Он добавляет, что Rayus использует технологии «для поддержки, а не замены» соответствующего человеческого суждения и контроля. Представитель Palantir отказался комментировать от своего имени, но компания описала своё программное обеспечение как просто представляющее информацию в более полезной форме и подчеркнула, что клиенты несут ответственность за данные, политики и принятие решений. Ханна Драммонд, входящая в состав правления Национального профсоюза медсестёр, сказала, что она и её коллеги в больнице HCA в Северной Каролине будут бороться с любыми попытками внедрения Timpani. Продажи Palantir почти удвоились в последнее время, достигнув почти 2 миллиардов долларов в квартал, поскольку организации ищут его помощь в анализе данных и автоматизации задач. Растущие затраты и нехватка кадров сделали поставщиков медицинских услуг особенно заинтересованными клиентами. Cleveland Clinic признала, что программное обеспечение Palantir увеличило пропускную способность пациентов, прогнозируя выписки из отделений неотложной помощи и заменяя ручную координацию. Но Palantir также столкнулась с критикой со стороны активистов за гражданские права из-за своей работы в области обороны и иммиграции, а также из-за политических взглядов соучредителей Питера Тиля и Алекса Карпа. В Великобритании Palantir получила контракт на 440 миллионов долларов с Национальной службой здравоохранения, чтобы попытаться сократить время ожидания на приём, но медсестры и активисты требуют его отмены из-за проблем с конфиденциальностью и безопасностью. В HCA некоторые медсестры также хотят, чтобы Palantir ушёл. Хотя исследования показывают, что AI на основе расписаний имеет потенциал, медсестры утверждают, что Timpani стал источником тревоги. «Все сразу проверяют, и каждый месяц вы слышите: «Почему меня так расписали?» — говорит Баркер. Сначала некоторые местные менеджеры могли редактировать расписания Timpani. Теперь медсестры должны пометить проблемные смены для централизованной команды в главном офисе HCA в Нэшвилле, которая рассматривает апелляции без прямой коммуникации или возможности объяснения, по словам медсестёр. Если апелляция отклонена, они пытаются обменять смены, но шансы на успех составляют лишь около 50 процентов, утверждают Баркер и Ретцлофф. Баркер, который является лидером National Nurses United в психиатрическом центре HCA, утверждает, что несколько коллег уволились из-за Timpani, и что травмы на рабочем месте увеличились в первые 12 месяцев с инструментом. Профсоюз центра из около 500 медсестёр подал жалобу по поводу программного обеспечения, утверждая, что HCA не в достаточной мере учитывает предпочтения в расписании. Этот вопрос, вероятно, будет передан на арбитраж. В первые дни работы Timpani Шлоссер из HCA признал, что работники здравоохранения могут медленно принимать технологии «потому что у них в руках жизни людей». Но он представлял будущее, в котором медсестры на передовой активно выступали бы за большее количество инструментов: «Тогда это будет весело». Три года спустя некоторые медсестры не видят причин для радости. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.