国連チーフAIアドバイザーとの独占インタビュー：AIは完璧だと期待しているが、決して完璧ではない

[[384962]]

ビッグデータダイジェスト制作

出典: informationweek

編纂者：張大毓

国連チーフ AI アドバイザーのニール・サホタ氏が、主要な国連 AI プロジェクトと、今日の AI が直面している主な課題について考えを語ります。

業界や政府全体で AI が広く使用されている例は、かつては SF の世界に存在していました。しかし、今日では、多くの映画のようにロボットの手先に倒されることを心配する必要はありません。

むしろ、今日の私たちの生活に影響を与えるより大きな問題があります。たとえば、社会全体の利益のためにデータをいつ、どのように共有すべきか、また、いつ独自の使用のために保持すべきか。顔認識などの特定の AI アプリケーションは倫理的か。AI の結果が信頼できるかどうかをどのように確認できるか。AI に偏りがあるかどうかをどのように判断し、どのように対処できるか。

現在、米国政府内で政党が交代していることを考えると、これらの問題は最優先事項となっている。今後数年間、政府や企業ではこれらの問題の影響を受けるプロジェクトが数多く進行中です。

AIを取り巻く大きな疑問をさらに深く理解するため、InformationWeekは、国連の主席人工知能顧問であり、国連と共同でAI for Good Global Summitを主催し、『Embracing the AI Revolution』の著者でもあるニール・サホタ氏に話を聞いた。

以下はその会話からの抜粋です。

現在活用されている AI 技術で最も興味深い点は何ですか?

実は「人工共感」という分野があるんです。機械は感情を感じませんが、人間の感情を認識する方法を機械に教えることはできました。ボディランゲージの使用、声のトーン、さらには言葉の選択やジェスチャーもすべて、機械学習が人の感情状態をリアルタイムで解釈するのに役立つデータポイントです。

精神衛生上の問題を抱える人々への支援に多くの注目が集まっています。英国には、家庭内暴力の被害者に支援を提供する（チャットボットを使用して、虐待の被害者であるかどうかを識別できるようにする）レインボープロジェクトと呼ばれる組織があります。

それは実際には人間同士のつながりに代わるものではなく、季節を問わず人々がいつでも交流できる安全な空間です。

これが最先端です。多くの作業が行われており、現在使用されているソリューションはおそらく 25 個あります。これらのプロジェクトに取り組む人々は心理学と言語学を理解する必要がありますが、セラピストはまだ AI を追求していないため、これは新興分野です。しかし、人々はいくつかの基本的なツールを試しています。

一方、この技術が棚上げになった理由は、機械が人の感情を理解することはできない、と多くの人が不可能だと考えたからだと思います。

実際のところ、今ではそうではないことが分かっています。これによって、より多くの可能性が生まれると思います。

[[384963]]

ニール・サホタ

機械はどのようにトレーニングされるのでしょうか?

これは心理学の組み合わせです。さまざまな感情状態とそれに関連する特定の事柄、運動学、ボディランゲージ、言語学の指導、そして実際に言語をコード化できることなどです。ですから、「友達」ではなく「パートナー」という言葉を使うなど、私たちにとっては微妙に思えることでさえ、実際には多くの意味を伝えているのです。

人間の感情について機械に教えるために、どのようなトレーニングデータが使用されますか? 危機管理センターの通話やカスタマーサービスへの通話の記録でしょうか?

そういったこともあるかもしれませんが、実際、ソーシャルメディアのデータは非常に優れていることがわかりました。

大学や就職の面接で書いたエッセイを使うことはできますが、実際には自分の本当の声を使っていない可能性があります。より現実的で本物のようなサウンドタイプを入手できれば、より良い結果が得られます。ソーシャルメディアは素晴らしい情報源です。

利用できるオープンソースデータベースはありますか?

数は多くなく、データ自体も課題です。データは現代の新たなエネルギーであり、少なくとも収益化されるまでは人々はデータを共有することに明らかに消極的であり、それが障害となっていることは明らかです。実際には共有すべきではないデータもあります。しかし、たとえ誰もがデータを使用できないとしても、誰もがデータを開示することに消極的であることは、特に医療分野では別の困難を生み出す可能性があります。

医学研究を前進させるために私たちがやりたいことのいくつかを実行するには、データが不十分です。

医学研究はどのような課題に直面しているのでしょうか? それをどうやって克服するのでしょうか?

残念ながら、機械は自分で物事を理解することはできないため、機械を訓練するためのデータが必要であり、機械に可能性のある所見や病気を報告させたい場合、大量のデータが必要になります。

特に肺の場合、健康な肺、がんのステージ 1、ステージ 2、肺気腫などの肺の X 線写真が必要であり、このようなデータセットが大量に必要になります。

クリーブランドクリニックやメイヨークリニックのような多くの施設では、実際にこれを行うのに十分なデータがない可能性があり、より多くの患者を治療することでデータを取得するか、研究センターを持つ大学や研究センターなどの他のパートナー機関から許可を得ています。

国連は、PHI（個人健康情報）を取り除いた医療データベースの構築を試みており、研究者が実際に使用できる豊富なデータを生み出す可能性がある。

それはあなたが国連で取り組んだプロジェクトの一つですか?

はい！基本的に、誰もが自分のデータを一般的な使用のためにここに保存することに同意しますが、識別情報は削除されています。より大きなデータセットをすべての人に提供します。

このプロジェクトで私たちが取り組んでいるのは、基本的に、いくつかの医療機関を訪問して、「このデータを共有できたら素晴らしいと思いませんか。これには価値があるのではないでしょうか」と言うことです。

ぜひそうしたいですし、強くお勧めします。共有しないことで、意図的に自分たちのペースを落としているからです。ある企業が、7年前に別の企業が試みた研究の道に乗り出し、行き詰まってしまった例を私たちは見てきました。その結果、人々の時間、エネルギー、お金が無駄になります。

肺がんは増加傾向にありますか?

それらは実際にすでに肺がんの解決策となっているのです。スローン・ケタリング病院はこれを所有しており、X線で肺がんを検出するために使用しています。このシステムは現在約90パーセントの精度を誇っているが、この機械ができるのは癌の診断だけであり、それ以外のことは何もできない。

スローンケタリングは他の機関にライセンス供与する予定ですか?

今ですか？いいえ。彼らは、それが自分たちの中核的な強みであるため、自らそれを活用しています。私たちは競争に慣れていないし、社会的企業にも慣れていません。お金を稼ぐか、非営利団体を運営するかを選択できます。または両方行うこともできます。

国連の仕事において、組織に「データを共有しましょうか。それは良いことですよ」と提案する際に生じる課題について教えてください。

自分のデータがどのように使用されるかがわからなかったり、使用しないとしても、自分の所有物で他人が金持ちになることは望んでいません。現時点では、データの価値をどのように評価すればよいのか、まったくわかりません。

もっとオープンマインドだったり、前向きな考え方を持っている人もいるでしょう。それがここでの適切な表現かどうかはわかりませんが、実際にこうしたコンテンツの一部を共有する企業は、すべての人にチャンスを増やすことを認識してください。潮が満ちればすべての船が浮かび上がる。繰り返しますが、これはほとんどの組織が従来慣れ親しんできた考え方とは異なるものです。

今日の世界で AI が直面している主な課題は何ですか?

実際には、核となる要素は 2 つあります。 1 つは、責任ある AI システムの必要性に関する倫理的問題です。何かができるからといって、それをすべきだというわけではありません。もう一つの大きな問題は、テクノロジーに対する真実と信頼です。私たちは AI が完璧であることを期待していますが、決してそうなることはありません。

人間には偏見が内在しているため、間違いを犯したり、トレーニングに欠陥が生じたりします。

これらはまさに私たちが現在直面している2つの大きな課題です。