В США тысячи пациентов скончались из-за искусственного интеллекта

Министерство здравоохранения США добилось наказания одного из ведущих разработчиков программного обеспечения для электронных медицинских карт Practice Fusion за многочисленные случаи смертей от передозировки обезболивающими препаратами. Об этом пишет Telegram-канал «Экономика цифровой эры». Причиной резко увеличившейся смертности больных от обезболивающих стало, как выразились представители Минздрава США, «использование искусственного интеллекта в преступных целях». Программное обеспечение, разработанное Practice Fusion, значительно упрощало работу медперсоналу, не только автоматически перенося в интернет все необходимые данные пациентов от хронологии визитов до результатов анализов, но и быстро анализируя всю эту информацию. Врачам оставалось только ставить галочки в списках предлагаемых вариантов лечения и получать рекомендации для назначения конкретных препаратов. Вот только оказалось, что в большинстве случаев программа выписывала рецепт на определенный опиоид, разработанный компанией Pharma Co. X. Сперва проект задумывался как система предупреждения, которая умела бы выявлять пациентов с высоким риском привыкания к опиоидным препаратам, но затем, по заключенному между компаниями контракту, Practice Fusion разработала CDS-модуль для поддержки принятия врачом клинического решения, который сначала выявлял пациентов, ранее никогда не принимавших опиоиды, а затем рекомендовал лечащему врачу выписать конкретные рецепты. Начиная с июля 2016 года до весны 2019-го модуль поддержки клинического решения всплывал на компьютерах лечащих врачей 230 миллионов раз, а государственные структуры здравоохранения считали его главным критерием профессиональной диагностики и лечения. Врачи же бездумно соглашались с рекомендациями алгоритма, который все больше и больше рекомендовал к использованию определенный «универсальный» опиоид. В какой-то момент искусственный интеллект стал повышать дозы обезболивающих, даже если в этом не было особой необходимости, что осталось незамеченным врачами, абсолютно доверявшими рекомендациям программы. В обмен на снятие обвинений компания Practice Fusion согласилась заплатить отступные в размере 145 миллионов долларов, что является слабым утешением для тысяч покойных и их родственников, говорится в процитированном посте.