医療における AI 導入の 5 つの障壁

人間の想像力を幅広い臨床応用に活用するとなると、医療用人工知能の道のりはまだまだ長い。

[[276120]]

7月10日に医学インターネット研究ジャーナルに掲載された論文の中で、カナダのトロント大学の研究者らは、医療業界における人工知能の応用が直面する主な障害を特定した。

トロント大学のジェームズ・ショー博士とその同僚は、機械学習のユースケースを自動化と意思決定支援の2つのカテゴリーに分類するNASSSフレームワークに基づいて、AIの市場浸透度を他のテクノロジーと比較しました。 NASSS は、非採用、放棄、拡大への課題、普及、持続可能性の頭字語です。

少なくとも短期的には、意思決定支援アプリケーションが自動化につながることが示唆されています。 NASSS フレームワークに従って、主要な意思決定支援 AI の実装を妨げるさまざまな問題を概説します。この目的のために、次の点が強調されます。

1. 有意義な意思決定支援

ショー氏は、「臨床上の意思決定は、暗黙的および明示的なインテリジェンス モデルを含むさまざまなデータ ソースの統合を伴う複雑なプロセスです」と説明しています。

同氏はさらに、「この意思決定プロセスをより視覚的に伝えるために、AI 開発者はデータ視覚化などのコミュニケーション ツールを追加しています。これらのコミュニケーション ツールの性質と価値は実装プロセスの中心であり、アルゴリズムの出力が日常業務に組み込まれるかどうか、またどのように組み込まれるかを決定するのに役立ちます」と付け加えました。

2. 説明可能性

医療における AI モデルはどのようにして成果を達成するのでしょうか。その答えは、それを作成したコンピューター科学者にさえも不明であると、ショー氏とその同僚は指摘しています。

「こうしたメカニズムとコンテキストの理解不足は、医療関係者にとって機械学習の受け入れに課題をもたらす」とショー氏は言う。「ここで説明した機械学習の事例を用いた意思決定支援には、解釈可能性の問題が明らかに関連しているにもかかわらずだ」

同氏はさらに、「この問題は、ヘルスケア分野では自動化に重点を置いたユースケースが大きな役割を果たしているため、より深刻に当てはまる可能性がある」と付け加えた。

3. プライバシーと同意

ショー氏は、ウェアラブルデバイスデータの適切な使用に関する法律やガイドラインが現在不足していると指摘した。同時に、多くの健康関連アプリケーションでは、使用中に生成されるデータ ストリームの一貫性プロセスが不明確です。

これら 2 つの明らかな問題に加えて、他のデータセットとリンクすると、他のデータが再識別される可能性があります。 「これらの要因により、機械学習アプリケーション開発に健康データを利用しようとする取り組みが医療提供者から大きな抵抗に遭うという重大なリスクが生じる」と彼は述べた。

4. アルゴリズムの偏り

「アルゴリズムの良し悪しは、それを訓練するデータ次第だ」とショー氏は言う。

「トレーニング データが部分的または不完全であったり、特定の人口のサブセットのみを反映している場合、結果として得られるモデルはデータセットに表される人口にのみ関連します」と、彼は述べています。「これにより、データの出所に関する疑問が生じ、意思決定に使用されるアルゴリズムに組み込まれているバイアスに関連する多くの問題が表れます。」

5. スケーラビリティと障害

ヘルスケアにおける AI アプリケーションが急速に進歩するにつれ、一部のアルゴリズムの出力が他のものと混乱したり、矛盾したり、衝突したりすることは避けられません。

「この相互作用の影響は事前に予測できません。相互作用する特定の技術がまだ知られておらず、日常的なケアにまだ実装されていない可能性があるためです」とショー氏は述べた。「実装科学者は、医療における機械学習の実装と規模がもたらす予期せぬ結果を考慮する必要があると私たちは提案します。これは、患者、医療提供者、および一般の人々の安全に対する複雑さとリスクを高めます。」

ショー氏と彼のチームは、企業の役割と医療業務の性質の変化に伴ういくつかの障害も特定しました。

ショー氏は、観察と予測をまとめ、医療における機械学習の将来は明るいが不確実であると述べた。彼らは、この技術の受け入れと採用は、AI 開発者だけでなく、医療関係者、患者、医療提供者全員に大きく依存すると考えています。

ショー氏は、「機械学習の応用がより洗練され、データ視覚化などのコミュニケーション戦略への投資が増加するにつれて、機械学習はよりユーザーフレンドリーで効果的になる可能性があります。実装されれば、科学界はすべての人に利益をもたらす方法で機械学習の採用を促進し、提起された疑問は今後数年間で十分に注目されるでしょう」と述べています。