医療AIの深淵：まだ解決すべき大きな問題

5Gに加えて、人工知能は今年も引き続きホットな話題です。筆者は最近、医療人工知能のコンテストを間近で見てきました。その場では10以上の医療プロジェクトが紹介されました。各ロードショーの後、審査員が質問をしました。上記の質問は最もよく聞かれる質問です。

[[281469]]

審査員のほとんどは病院の医師や医療分野の専門家、投資家です。彼らの鋭い質問の背後には、医療分野における人工知能の応用が直面する最も一般的な問題、つまり精度、セキュリティ、ビジネスモデルがあります。そこで、私たちは最も核心的で古い問題である「信頼」に戻ります。たとえば、病気の特定において、医師は人工知能の感度、特異性、正確性に値するのでしょうか? 医師が意思決定を支援するために人工知能を使用する場合、患者は医師を信頼すべきでしょうか?

人工知能技術の発展に伴い、音声インタラクション、コンピュータービジョンと認知コンピューティング、ディープラーニングなどの技術が徐々に成熟し、医療記録の音声入力、医療画像のインテリジェント認識、補助診断と治療、医療ロボット、個人の健康ビッグデータのインテリジェント分析、AI医療の研究開発など、医療分野における人工知能のさまざまな応用が可能になりました。

しかし、実際の応用に関しては、3年前に人工知能の先駆者であるジェフリー・ヒントン氏は「今すぐ放射線科医のトレーニングをやめるべきだ。5年後にはディープラーニングが放射線科医よりも優れているだろう」と断言した。現在、世界中の何百もの新興企業がディープラーニングの放射線科への応用を模索している。しかし、何人の放射線科医がAIに取って代わられるのだろうか？世界中で放射線科医は依然として深刻な不足状態にある。

今日の人工知能+ヘルスケアは、信頼と商業化に加えて、政策と規制の面でも課題に直面しています。最近、テンセントグループ法務部は「医療人工知能産業監督と法律研究」（以下、「報告書」）を発表し、医療AI分野の法律と規制のテーマについて議論し、分析しました。

報告書は、医療AIが直面する法的および規制上の課題として、医療用人工知能製品が市場に参入する際に医療機器として登録する必要があるかどうか、医療用人工知能製品の研究開発および運用中に健康医療データと個人情報を合法的に使用する方法、医療用人工知能製品の使用中に製造物責任と医療損害賠償責任を確認する方法、医療用人工知能製品の知的財産権をどのように保護するか、医療用人工知能製品がもたらす医療倫理的問題にどのように対処し、回避するかなどが挙げられると指摘しています。

1. プライバシーを保護する方法

研究開発段階であろうと、応用段階であろうと、医療AIは必然的に個人の健康情報を収集し、利用します。例えば、一部の健康管理AI製品はユーザーの健康情報を収集して利用し、特定のがんのCT画像やMRI写真は医療AIモデルのトレーニングに使用されます。

個人情報やプライバシーの安全性を確保しながらデータのオープンな共有を実現する方法、ビッグデータマイニングの合理的な限界を探る方法は、医療AIの発展が直面する重要な課題となっている。

「現行法では、個人情報の収集と利用は、公開性、透明性、最低限の充足性の原則を満たす必要があると規定されているが、医療AIが使用する情報の複雑さとブラックボックステストの不確実性により、上記の原則を満たすことは困難である。さらに、法律では、医療AI開発者が第三者からデータを取得する際に直面するレビュー義務の範囲が明確に定義されていない。」これらの困難に直面して、「報告書」は、現在国際的に受け入れられているコンプライアンス慣行は「匿名化」であると指摘している。

「匿名化」とは、追加情報の助けなしに個人情報の主体が識別できないように個人情報を技術的に処理するプロセスを指します。匿名化された個人情報は「匿名化情報」になります。 「匿名化された情報」を使用すると、データセキュリティのリスクが軽減され、個人情報のセキュリティ保護に役立ちます。

しかし、報告書によれば、我が国の健康・医療データの匿名化に関する基準は、具体的な実施の面ではまだ統一されておらず、開発者がどの程度の情報が処理されれば匿名化された情報とみなされるのか判断するのは困難だという。

一部の専門家は、関係部門が医療・健康情報の匿名化に関する基準を早急に公布し、匿名化された情報の使用に関する制限を適切に緩和して、医療AI技術の適切な発展を促進することへの期待を表明した。

2. 医療AIの倫理的問題

将来の医療用 AI 製品は、人間の感情、性格、習慣を持ち、さまざまな程度で医療や健康関連の活動に参加し、医師に代わって診断や治療を独自に実行できるようになるかもしれません。現時点では、医療用 AI の倫理的地位や法的権利をどのように保護するかが、今後検討すべき課題となるでしょう。

EUは人工知能ロボットの権利に関する世界の議論の最前線に立っており、すでに知能ロボットに「電子人間」としての法的人格を与え、その行動に対する権利と責任を与えるかどうかを検討している。

2017年初頭の欧州議会の報告書は、「長期的には、ロボットに独立した法的地位を与え、少なくとも最も洗練された自律型ロボットに電子人間の地位を与え、ロボットが引き起こす可能性のある損害に対して責任を負わせ、ロボットが自律的な決定を下したり、第三者と独立してやり取りしたりする状況にもこの地位を適用することが有益であろう」と主張した。

しかし、AIに法的人格を与えるというテーマは大きな論争を巻き起こしている。報告書が発表されて間もなく、コンピューター科学者、法学教授、企業のCEOなど、欧州14カ国のAI専門家156人が公開書簡に署名し、ロボットに法的人格を与えることは「法的および倫理的観点から」不適切であると警告した。

ただし、技術開発の限界により、現段階では上記の倫理的ジレンマに明確な答えを出すことは困難です。しかし、報告書は、科学技術の継続的な進歩に伴い、こうした問題に注意を払い、医療専門家がAIを使用して診断決定を行うための倫理規範と行動規範を徐々に模索し、確立し、医療分野におけるAIのより広範かつ深い応用に適応する必要があると考えています。

3. 医療データは独占されているか、共有されているか?

データは人工知能の発展の礎です。データの管理と独占は医療AI産業の発展に直接影響を及ぼす可能性があります。

報告書では、データ保有の観点から、データの独占自体は独占禁止法に違反しないと考えています。独占禁止法違反となるのは、企業が特定の関連商品市場において独占的データにより市場支配的地位を形成し、その市場支配的地位を濫用した場合、または独占的データにより競争が著しく排除または制限された場合のみです。

現時点では、医療AIに関するデータ独占の問題に直接取り組む具体的な法律を制定した国はないが、データのオープンな共有を奨励する政策を導入している国もある。

我が国は現在、政府データや公的企業・機関のデータの公開に向けた計画を立てており、欧州委員会は研究目的での医療データへの安全なアクセスと国境を越えた交換のための技術仕様の確立を議題に上げており、米国は21世紀治癒法を可決し、データ障壁の解消とデータ共有の促進に向けた全体的な方向性を確立しました。

報告書は、立法者が各国の医療データ共有の進捗状況に注目し、医療データ共有の統一基準を徐々に確立し、医療データソースの正当性の問題を解決した上で医療データの公平な共有をさらに推進し、医療AI開発者がデータを安全かつ合法的に使用することを保証し、医療AI開発者間の公正な競争を促進することを推奨している。

4. 医療ビッグデータの国境を越えた送信は規制に準拠する必要がある

国境を越えた発信という点では、国際的な交流と協力は医療AI技術の発展に欠かせない要素です。しかし、報告書は、国益の観点から健康・医療ビッグデータは重要な国家資産となっているため、ほぼ全ての国が出口管理に対してより慎重な姿勢をとっていると指摘している。

我が国が2014年5月5日に公布・実施した「人口健康情報管理措置（試行）」では、人口健康情報は国内でのみ保管でき、いかなる形式でも国外に保管できないと規定されています。

国家衛生健康委員会はさらに、「国家衛生健康ビッグデータ標準、セキュリティおよびサービス管理弁法（試行）」第30条で、「衛生健康ビッグデータは、国内の安全で信頼性の高いサーバーに保存する必要がある。業務上の必要性により海外に提供する必要がある場合は、関連法律、規制、関連要件に従ってセキュリティ評価とレビューを実施する必要がある」と規定している。

報告書は、国民と国家の利益を守りながら、健康医療ビッグデータの流れと関連科学技術産業の健全な発展を継続的に促進する方法は、今後さらに深く検討する価値のある現実的な提案であると考えている。

まとめ

IDCの統計によると、人工知能応用市場の総価値は2025年までに1270億米ドルに達し、そのうち医療業界が市場規模の5分の1を占める見込みです。人工知能+医療分野が全体的なトレンドです。

病院経営の解放から医師の解放、医薬品製造の支援、そして公衆衛生管理まで、数十年にわたる発展を経て、人工知能は徐々に医療のあらゆる側面に浸透し、深い領域に入り込んできました。規制と政策の観点から、中国健康情報とヘルスケアビッグデータ協会は最近、スマート病院と人工知能アプリケーションの専門委員会、標準委員会、作業委員会を設立し、今後、中国のスマートヘルスケアと人工知能アプリケーションの業界標準を策定する予定です。そして、技術、政策、規制の難点が徐々に解消されれば、待望の破壊的革命が必ずや訪れるだろう。