HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

バーモント州の薬局チェーンが効率化のためにAIを導入、遅延、誤情報、プライバシー懸念を引き起こす

A pharmacy chain in Vermont implemented AI for efficiency (vtdigger.org)

26 pointsby omerhj27 コメント

要約

バーモント州の薬局チェーンKinney Drugsが処方箋の自動応答サービスにAIを導入したところ、顧客から遅延、誤った情報提供、プライバシー懸念などの問題が報告されています。AIの導入は効率化を謳っていましたが、実際には顧客体験を悪化させ、一部の顧客は他店への乗り換えを検討しています。

全文翻訳

バーモント州の薬局チェーンが効率化のためにAIを導入。遅延、誤情報、プライバシー懸念を引き起こす

[画像: 曇り空の日、ガラスの入り口ドア、駐車スペース、ドアの上に表示された看板が見えるキニー・ドラッグスの店舗の外観。]

Glenn Russell/VTDigger撮影、2026年7月21日火曜日、エセックス・ジャンクションのキニー・ドラッグス

バーモント州全域のボイスメール、迷惑メールフォルダ、テキストメッセージに、人工知能ツールが長年の薬局記録を精査し、薬を不 coherently にリストアップし、機密性の高い処方薬の誤った詰め替えを要求している。

そして顧客は、それに同意したことさえ知らないことが多い。

「彼はいつも電話してきて、薬の名前を言わないの」と、バーモント州のキニー・ドラッグスの顧客であるキャシー・キャラハンさんは、バーモント州とニューヨーク州に展開するこの薬局チェーンが最近導入した新しいAIツールについて語った。

彼女の記憶では、ほぼ毎日電話がかかってきて、AIの声が薬の名前を不明瞭に呟くという。混乱した彼女は、処方箋の要求が正当で、本当に薬がなくなったのだと思い込み、詰め替え注文を承認してしまう。

今のところ、そうではないと彼女は言った。

「週に2回服用する薬のボトルが4本ここにあります」とキャラハンさんは言った。

この夏の初め、AI技術の全国的な波がヘルスケアシステムに押し寄せる中、キニー・ドラッグスは処方箋の詰め替えサービスのために新しいAIアシスタントを導入し、コミュニケーションと効率の向上策としてこのツールを称賛した。しかし、顧客は逆のことを言っているという。

VTDiggerの取材に応じたバーモント州とニューヨーク州のキニー・ドラッグスの店舗の顧客約12人によると、AIの導入は様々な問題と重なっている。医師が薬を処方してから薬局が処理するまでの間に遅延が生じている。システムは長年の顧客アカウントを見つけられず、誤った用量を注文し、詰め替えの準備ができたことを顧客に通知できなかった。そして、これらの不正確さは顧客の間でプライバシーの懸念を引き起こしている。

AIに対する顧客の不満が高まるにつれて、一部の顧客は完全に薬局を変えようとしていると述べ、また、地方部では薬局の選択肢が限られているため、不信感を抱きながらも使い続けざるを得ない顧客もいるという。

AIが全国のヘルスケアシステムに登場する中、数人の弁護士はVTDiggerに対し、この技術は規制を追い越しており、消費者の保護は薄いと語った。

「法制化される法律には遅れがあり、企業がどのように遵守するか、あるいは州がどのように法律を執行するかについての詳細な全体像はまだ見ていません」と、ACLUの上級スタッフ弁護士であるコーディ・ヴェンツケ氏は述べた。

バーモント州では、フィル・スコット知事が6月16日に署名した新しいデータプライバシー法、S.71が2年後に施行される。この遅延は、プライバシー擁護者によれば、消費者を保護するにはすでに弱すぎるこの法案の遵守にギャップを生じさせる。

「たとえ施行されたとしても、この状況を必ずしもカバーするとは思えません」と、バーモント州の弁護士で住民であるライアン・クリーガー氏は、同法案について証言した。

「価値も利益もない」

キニー・ドラッグスは5月に患者コミュニケーションと詰め替えサービスのためにAI仮想アシスタントを導入した。その後すぐに、顧客は問題に直面し始めたと述べた。

「最初の印象は、以前の録音サービスよりも複雑で面倒だということでした」と、約2年間バーモント州のキニー・ドラッグスで薬を受け取っているマット・ペニーさんは語った。

以前は、キニー・ドラッグスで処方箋を詰め替えるには、顧客はプロンプトベースのトーン電話システムに電話し、キーパッドを操作して薬剤師に連絡する機会があった。VTDiggerの取材に応じた顧客は、この古いシステムはスムーズに機能し、問題はなかったと語った。

しかし、新しいシステムではそうではなかったという。

「時間を無駄にし、顧客サービスを遅らせるだけです。私に言わせれば、顧客にとって全く価値も利益もないものです」と、バーモント州のキニー・ドラッグスの顧客であるデイブ・ベリーニさんは語った。

キニー・ドラッグスが創業者にちなんで「バート」と名付けたAIアシスタントは、サードパーティのAI製薬会社Synerioによって構築された。薬局の利用規約では、「バートは正確、完全、または最新ではない可能性があり、誤解を招く情報やエラー、脱落を含む可能性があります」と記載されている。

電話番号をキニー・ドラッグスに提供した顧客は、自動的にこのツールとのやり取りに同意したものとみなされるが、後でオプトアウトできると、薬局の利用規約には記載されている。一部の顧客は今年の夏初めに新しい詰め替えシステムにサインオンしたことを覚えていたが、他の顧客は詰め替えのために電話をかけてAIの声を聞くまで、会社が新しいツールを導入したことに気づかなかったと述べた。

「バートはあなたに話すことを要求します」と、医療分野で麻酔科医として働いていたバーモント州のキニー・ドラッグスの顧客、マリア・アベニさんは語った。「私が経験した他の電話でのやり取りのように、キーパッドを使って希望するものを入力するオプションがありません。だから、バートと話すか、薬を手に入れないかのどちらかです。」

アベニさんやVTDiggerの取材に応じた他の顧客によると、キニー・ドラッグスは導入前にこのツールについて顧客に知らせなかったという。

今月、アベニさんが医師が処方した薬の受け取りに遅延を経験した際、それが命を救う薬でなかったことに感謝したが、それでも不安を感じた。それ以来、AIとのやり取りを避けるために、詰め替えのために薬局に直接行くようにしているという。

しかし、地方部に住んでいて交通手段へのアクセスが限られている他の人々にとって、詰め替えのために直接薬局に行くことは不可能である。

匿名を希望しないキニー・ドラッグスの担当者はVTDiggerへの声明で、「バートに関して、特に導入段階で一部の患者が不満を抱いていることを認識しており」、各懸念事項をレビューし、各患者に連絡を試みていると述べた。

顧客がキニー・ドラッグスがAIに切り替えた理由について困惑していると述べる一方で、同社は明確な理由を挙げた。それは、反復的なタスクを排除し、薬剤師の時間を解放するためである。

経営陣は、AIがこの目標達成に役立っていると信じており、あるディレクターは「間違いなく効果があり、電話を非常にうまく処理することで、薬局への電話を減らしています」と述べている。

しかし、顧客のツールの経験は、しばしば逆の効果をもたらしている。AIで問題に直面すると、多くの人が助けを求めて薬剤師に頼るようになる。バーモント州では、薬剤師は慢性的な労働者不足により、すでに過重労働である。

「すでにストレスを抱えているスタッフの生産性を低下させており、そのスタッフは長年私を診てくれて、私は忠誠心を感じているので、これは私にとって金銭的な懸念だけでなく、スタッフを人間らしく扱わない方法です」とアベニさんは語った。

「プライバシーはほぼ窓の外」

AIツールの報告されている不正確さが多くの顧客の主な不満である一方で、他の顧客はチェーン店を離れる理由としてプライバシーの懸念を挙げている。

「店舗に行ってプライバシーポリシーを読んだとき、ショックを受け、すぐに処方箋をUVM病院に移しました」と、元キニー・ドラッグスの顧客であるテュアン・グリーンさんは語った。

薬局のプライバシーポリシーは、AIアシスタントと同じ月に公開され、例えば、顧客の保護された健康情報は、薬局の業務改善のためにAIツールで使用される可能性があることを開示している。

「最近では、プライバシーはほぼ窓の外に出てしまっています」と、バーモント州のキニー・ドラッグスの顧客であるスティーブン・マッカーサーさんは語った。

キニー・ドラッグスを超えて、顧客やプライバシー専門家も、薬局にAIツールを供給しているテキサス州のテクノロジー企業Synerioに対して懸念を表明している。

バーモント大学のコンピュータサイエンス准教授であるジョセフ・ニア氏は、プライバシーの観点から、このAIツールは、この追加企業であるSynerioが顧客の健康データにアクセスできるようになるため、薬局の以前の詰め替えシステムよりも悪いと述べた。

「もし私が医療提供者とだけやり取りする場合、私は彼らが持っているセキュリティに依存しています。もし彼らが多くの他の組織とやり取りを始めたら、私はそれらすべてとのセキュリティ問題について心配しなければならなくなります」と、ヴァンダービルト大学医療センターの生物医学情報学教授であるブラッドリー・マリン氏はSynerioについて言及して述べた。

キニー・ドラッグスの担当者は、同社が「複数の層のセキュリティ管理」を維持し、「機密データを保護するための情報セキュリティ技術に投資」しており、潜在的なデータ侵害に対応するためのプロトコルを備えていると述べた。

AIがヘルスケア分野で使用されることは、連邦の健康プライバシー法HIPAAに関する多くの懸念も引き起こすと、数人の弁護士やデータプライバシー専門家は述べ、保護された健康情報のデータ共有の可能性を指摘した。

しかし、薬局がビジネスアソシエイト契約(HIPAAの下で、サードパーティベンダーが保護された健康情報を安全に取り扱うことを確立する契約)を結んでいる限り、企業は契約上、データを安全に取り扱う義務がある。キニー・ドラッグスの担当者は、プライベートベンダー契約の開示ができないことを理由に、その契約の開示を拒否したが、同社は「適切な契約を維持している」と述べた。

Synerioは複数のコメント要請に応じなかったが、そのウェブページでは、同社が作成するツールはHIPAAに準拠するように構築されていると述べている。

SynerioはVTDiggerの顧客保護に関する質問には答えなかったが、キニー・ドラッグスの薬局管理システムであるMcKessonは、公開提出書類で、「サードパーティのAIツールやソリューションへの依存は、コンプライアンスのギャップを含む、当社の管理外のリスクに当社をさらす可能性がある」と認め、顧客保護について言及した。

「同意は現実的な解決策ではない」

州がデータプライバシーを保護するための法律を作成する動きの中、キニー・ドラッグスが導入したような、新興のAIツールは、これらの法律がどれほど効果的であるかのテストケースとなり得る。

バーモント公共利益研究グループのプライバシー擁護者であるザック・トマナリ氏は、顧客のAI体験は、バーモント州のデータプライバシー法がさらに踏み込むべきだった理由の例だと述べた。この法律は、住民に自分の情報がどのように収集されているかを知る権利、不正確なデータを修正する権利、および自分のデータが販売されることをオプトアウトする権利を与える。しかし、弁護士や擁護者は、データ収集を行う企業に対して免除が多すぎると述べている。

UVMのコンピュータサイエンス教授であるニア氏は、新しいバーモント州法のような規制は、消費者の同意に基づいているという理由だけで、本質的に欠陥があると述べた。例えば、キニー・ドラッグスは、利用規約を11の文書にわたって広げている。

「人々が自分が何に同意しているのか全く理解していないと思います。そのため、同意という考えに基づいて規制を定め、何が許容できると考えているのかは、今日のこのようなプライバシー懸念に対する現実的な解決策ではありません」と彼は述べた。

HIPAAを教えているオクラホマ大学の教授であるステイシー・トヴィーノ氏は、プライバシー法は患者が不正確な健康情報を修正するように請願することを許可していると述べた。しかし、そのプロセスは非常に煩雑であるため、トヴィーノ氏自身は、その暴露を避けるために薬局を変えるだろうと述べた。

しかし、バーモント州の地方部の顧客は、切り替えるためのアクセス可能な選択肢を持っていないかもしれない。そして、切り替えることができると言う人々でさえ、小規模な薬局チェーンとその従業員との間に築いた個人的な繋がりを理由に、そうしたくないと述べている。

「歩いて行ける、本当に好きな薬局を離れたくありません」とアベニさんは言った。「でも、もしこの状況が解決されなければ、そうするでしょう。」

開示: キニー・ドラッグスはVTDiggerの広告主です。