Аргументы Недели В мире 13+

В США тысячи пациентов скончались из-за искусственного интеллекта

, 23:00 [ «Аргументы Недели» ] Источник: Telegram-канал «Экономика цифровой эры»

В США тысячи пациентов скончались из-за искусственного интеллекта
Таблетки, Nikolay Gyngazov / globallookpress.com

Министерство здравоохранения США добилось наказания одного из ведущих разработчиков программного обеспечения для электронных медицинских карт Practice Fusion за многочисленные случаи смертей от передозировки обезболивающими препаратами. Об этом пишет Telegram-канал «Экономика цифровой эры».

Причиной резко увеличившейся смертности больных от обезболивающих стало, как выразились представители Минздрава США, «использование искусственного интеллекта в преступных целях».

Программное обеспечение, разработанное Practice Fusion, значительно упрощало работу медперсоналу, не только автоматически перенося в интернет все необходимые данные пациентов от хронологии визитов до результатов анализов, но и быстро анализируя всю эту информацию. Врачам оставалось только ставить галочки в списках предлагаемых вариантов лечения и получать рекомендации для назначения конкретных препаратов. Вот только оказалось, что в большинстве случаев программа выписывала рецепт на определенный опиоид, разработанный компанией Pharma Co. X.

Сперва проект задумывался как система предупреждения, которая умела бы выявлять пациентов с высоким риском привыкания к опиоидным препаратам, но затем, по заключенному между компаниями контракту, Practice Fusion разработала CDS-модуль для поддержки принятия врачом клинического решения, который сначала выявлял пациентов, ранее никогда не принимавших опиоиды, а затем рекомендовал лечащему врачу выписать конкретные рецепты.

Начиная с июля 2016 года до весны 2019-го модуль поддержки клинического решения всплывал на компьютерах лечащих врачей 230 миллионов раз, а государственные структуры здравоохранения считали его главным критерием профессиональной диагностики и лечения. Врачи же бездумно соглашались с рекомендациями алгоритма, который все больше и больше рекомендовал к использованию определенный «универсальный» опиоид.

В какой-то момент искусственный интеллект стал повышать дозы обезболивающих, даже если в этом не было особой необходимости, что осталось незамеченным врачами, абсолютно доверявшими рекомендациям программы.

В обмен на снятие обвинений компания Practice Fusion согласилась заплатить отступные в размере 145 миллионов долларов, что является слабым утешением для тысяч покойных и их родственников, говорится в процитированном посте.

 

ДЦ
Loading...

Аргументы НеделиАвторы АН

Аргументы НеделиИнтервью