メンタルヘルス従事者、アルゴリズムによるトリアージが患者を傷つけていると指摘

イラスト：Tevy Khou 2026年8月18日公開 By Nick Romeo シェアカイザー・パーマネンテのトリアージ・クリニシャンのハリンディル・カルサ氏は、北カリフォルニアのカイザーのウォルナットクリーク医療センターの精神科部門で勤務を開始したとき、9人のチームの一員でした。それからわずか3年余りが経過した現在、彼女は残っているトリアージ・クリニシャン3人のうちの1人にすぎません。かつて従業員が担当していた業務の一部は、自動化されたアルゴリズムツールに移行しました。この変化は、彼女が話を聞くまでに患者が不満を募らせるという事態の急増と重なりました。典型的な日には、彼女の約2ダースのトリアージ電話のうち3分の1が、適切なケアへのアクセスに苦労した患者とのものでした。「増えているのはフラストレーションです。時には、『あちこちたらい回しにされた』と言う人もいます」と彼女は語りました。複数のカイザーのメンタルヘルスケア従事者によると、トリアージ担当者の減少と、カイザーにおける人工知能搭載システムの利用増加は、危険な遅延、診断ミス、不適切な治療決定にもつながっています。AIがメンタルヘルスケアにどのように影響しているかを理解するために、Capital & Mainはウィスコンシン州とカリフォルニア州の十数人のセラピスト、クリニシャン、学術専門家、擁護者と話を聞きましたが、彼らは、この技術の性急な統合が、患者のタイムリーで適切なメンタルヘルスケアへのアクセスを侵食していると述べました。AIは多くの職業で仕事を変えていますが、その利用は、重度のうつ病、双極性障害、その他の深刻な病状にすでに苦しんでいる患者にケアへの障壁を作り出すことで、メンタルヘルス分野では特に高いリスクを伴う可能性があると、労働者たちは語りました。その利用に関する透明性を高め、トリアージの決定におけるAIの展開を阻止することが、これらの労働者たちの集団交渉における主要な目標となっています。すでにAI規制の全国的なリーダーになりつつあるカリフォルニア州は、カイザーの本社がある場所ですが、医療現場における技術の周りの安全策を設ける法案が現在提出されています。Capital & Mainは、カイザーと、ウィスコンシン州を拠点とする依存症およびメンタルヘルス治療プロバイダーであるロジャース・ビヘイビアル・ヘルスに雇用されているメンタルヘルスケア従事者にインタビューしました。これらの医療提供者の広報担当者は、自社のAIシステムがメンタルヘルス専門家の仕事を代替していることを否定しました。「臨床評価、トリアージ、治療決定は、資格を持つ臨床家によって行われ、私たちが使用するいかなる技術も、臨床的判断をサポートすることを目的としており、代替するものではありません」と、カイザーの広報担当者であるキャスリーン・チェンバース氏は電子メールで述べています。苦悩する患者と危険な遅延約2年前、オークランドで働くカイザーのセラピスト、イラナ・マルクッチ＝モリス氏は、メンタルヘルスケアへの道がますますテクノロジーによって決定されるようになっていることに気づきました。プライマリケア医から直接紹介され、予約のスケジュールを組むように連絡を受ける代わりに、患者はアプリ、非臨床的なコールセンターのスタッフ、あるいは単に電話番号を渡されるだけでルーティングされていました。「今や、患者自身がケアコーディネーターになるという負担がかかっています」と彼女は言いました。この力学は、一部の患者にとって特に困難になる可能性があります。「意欲の低下と継続性の欠如は、地球上で最も一般的なうつ病の症状です」とマルクッチ＝モリス氏は述べました。「私たちは、車椅子を得るために『廊下を歩いてください』とは、片麻痺の人に言いません。」カルサ氏とマルクッチ＝モリス氏は現在、「サービスリカバリー」と呼ばれる、ケアへの期待が満たされなかった患者との信頼を修復する努力に、より多くの時間を費やしています。自動化されたアルゴリズムシステムのより広範な使用が人間の仕事を排除しない場合でも、それらのシステムによって不当な扱いを受けた患者を安心させるために必要な感情的な労働を増加させることで、仕事の性質を変える可能性があります。「ほとんどの場合、私は、間違った道に送られ、苦しんでいる患者をなだめることになります。そのため、彼らは私たちに不満を持っています」とマルクッチ＝モリス氏は語りました。北カリフォルニアのカイザーで慢性疼痛プログラムを担当する臨床心理士であるメリッサ・スティーブンス氏は、患者が激しい抑うつや妄想のために精神科ケアを必要とする場合、カイザー内で紹介を行うことがよくあります。しかし、過去1年間で、AI搭載のトリアージシステムへのカイザーの依存により、それらの紹介がはるかに困難になったと彼女は言います。彼女は、連絡が一度もなかった患者や、より高度なケアが必要な場合でも、不安やうつ病のグループクラスに入れられた患者から話を聞くことがあります。「私が実際に電話をかけて人間と話すまで、何らかのフィルタリングシステムによって却下されているのです」と彼女は言い、「『一体何が起こっているんだ？』と思います。」このような遅延は、フラストレーションを招くだけでなく、危険なものでもあるとカルサ氏は言います。「この新しいトリアージシステムによる数週間の遅延があったり、自傷行為や過去の自殺未遂が見逃されたりしたケースを、私は確かに見てきました」と彼女は語りました。カイザーは現在、患者をCalm（ガイド付き瞑想を提供する）やMeru Health（資格を持つセラピストとの最大4回の遠隔医療セッションを含む12週間のメンタルヘルスプログラムで、アプリ内に短いビデオやアクティビティが含まれる）などの複数のサードパーティ製アプリやデジタルプログラムに接続しています。「カイザーは、『素晴らしいですね。睡眠に関する認知行動療法テクニックをすぐに得られます』と言っています」とカルサ氏は言いました。「しかし、この人が躁状態の真っ最中で、躁状態のために眠れていない場合はどうでしょうか？小さなアプリは役に立たないでしょう。」カイザーの従業員は、これらのアプリやプログラムが場合によっては貴重な情報や洞察を提供できると述べましたが、他のケースでは患者にほとんど役に立たず、適切な治療を受けずに悪化しているとCapital & Mainに語りました。「毎週のセラピーではありません。そのため、多くの患者がそこから戻ってきて、3、4週間後には、開始時よりも状態が悪くなっています」とマルクッチ＝モリス氏は述べました。「私を本当に悩ませるのは、12週間のプログラムをすべて終えてから、再び医療機関を受診したときに、うつ病が悪化していることです。」不適切な配置2024年末、10州に施設を持つロジャース・ビヘイビアル・ヘルスは、メンタルヘルスケアプロバイダーの受付、ケース管理、臨床評価などのタスクを支援するAI製品を提供するLimbic社との提携を発表しました。ロジャースのプレスリリースによると、この提携の公表された目標は、「メンタルヘルスサポートを求めるという勇気ある決断を下すすべての人々のために、より簡単なケアへの道筋を作り出す」ことでした。2025年8月までに、Limbicは、AI受付チャットボットやAI音声エージェントを含む、ロジャースでの製品の使用に関するケーススタディを発表しました。報告書は、Limbicが「AI生成された臨床インテリジェンスに基づくリアルタイムルーティングと優先順位付け」を使用したと主張しました。Capital & Mainがインタビューしたロジャースの従業員にとって、Limbicの統合は、報告書が示唆するような大成功ではありませんでした。ウィスコンシン州マディソンにあるロジャース施設の行動スペシャリストであるエリン・キニラン氏は、ロジャースがLimbicの使用を開始して以来、多くの患者が不適切なレベルまたは種類のケアに配置されていることに気づきました。キニラン氏によると、最近入院した「非常に重度の自殺リスク」があり、入院治療が必要だった患者は、代わりに彼女の建物の最低レベルのケアである集中的外来ケアに配置されました。彼女の行動健康グループクラスでは、通常少なくとも8人の参加者がいますが、通常少なくとも1人はそのクラスに配置されるべきではなかったと彼女は推定しました。「患者がスキルを通じて感情を調整する能力を持っていない場合、彼らは非常に早く圧倒され、私たちは彼らを危機的な状態に陥らせることになります」と彼女は述べ、そのような危機には、泣き叫び、施設を出ようと試みる患者が含まれていたと指摘しました。Capital & Mainへの電子メールで、名前の公表を控えるよう求めたロジャース・ビヘイビアル・ヘルスの広報担当者は、AIが「チームメンバーが患者ケアに集中する時間を増やすことを可能にした」と評価し、このツールは患者から情報を収集するために「HIPAA」で使用されたと付け加えました。