В США тысячи пациентов скончались из-за искусственного интеллекта
26 февраля 2020, 23:00 [ «Аргументы Недели» ]
Министерство здравоохранения США добилось наказания одного из ведущих разработчиков программного обеспечения для электронных медицинских карт Practice Fusion за многочисленные случаи смертей от передозировки обезболивающими препаратами. Об этом пишет Telegram-канал «Экономика цифровой эры».
[related_articles]
Причиной резко увеличившейся смертности больных от обезболивающих стало, как выразились представители Минздрава США, «использование искусственного интеллекта в преступных целях».
Программное обеспечение, разработанное Practice Fusion, значительно упрощало работу медперсоналу, не только автоматически перенося в интернет все необходимые данные пациентов от хронологии визитов до результатов анализов, но и быстро анализируя всю эту информацию. Врачам оставалось только ставить галочки в списках предлагаемых вариантов лечения и получать рекомендации для назначения конкретных препаратов. Вот только оказалось, что в большинстве случаев программа выписывала рецепт на определенный опиоид, разработанный компанией Pharma Co. X.
Сперва проект задумывался как система предупреждения, которая умела бы выявлять пациентов с высоким риском привыкания к опиоидным препаратам, но затем, по заключенному между компаниями контракту, Practice Fusion разработала CDS-модуль для поддержки принятия врачом клинического решения, который сначала выявлял пациентов, ранее никогда не принимавших опиоиды, а затем рекомендовал лечащему врачу выписать конкретные рецепты.
Начиная с июля 2016 года до весны 2019-го модуль поддержки клинического решения всплывал на компьютерах лечащих врачей 230 миллионов раз, а государственные структуры здравоохранения считали его главным критерием профессиональной диагностики и лечения. Врачи же бездумно соглашались с рекомендациями алгоритма, который все больше и больше рекомендовал к использованию определенный «универсальный» опиоид.
В какой-то момент искусственный интеллект стал повышать дозы обезболивающих, даже если в этом не было особой необходимости, что осталось незамеченным врачами, абсолютно доверявшими рекомендациям программы.
В обмен на снятие обвинений компания Practice Fusion согласилась заплатить отступные в размере 145 миллионов долларов, что является слабым утешением для тысяч покойных и их родственников, говорится в процитированном посте.