北京大学の王一州氏：信頼できるAI研究の名刺を磨くには、産業界、学界、研究機関の連携が必要

人工知能（AI）は1950年代に誕生し、3つの発展の波を経てきました。研究段階から大規模な産業化段階まで、研究者たちは数十年にわたってAI技術の進歩を推進し、機械がいつの日か人間の一般的な知能を持ち、人間の認知能力をすべて発揮することを期待しています。

近年、AIをより健全に発展させるために、説明可能性、公平性、プライバシー保護、公正性など、人間社会の肯定的な価値をテクノロジーを通じて人工知能に伝えるという「信頼できるAI」という技術分野が、産業界と学界で研究の焦点になりつつあります。

学術研究の観点から見ると、信頼できる AI は、セキュリティ/堅牢性、説明可能性、プライバシー、公平性、監査可能性/説明責任、環境保護など、アルゴリズムとシステム レベルの研究に主に焦点を当てています。説明可能性には、学習方法またはモデルの理論的説明可能性、アルゴリズム的説明可能性、および動作的説明可能性が含まれます。堅牢性は、主にモデルの安定性研究、攻撃モデル、および防御モデルを対象としています。プライバシー保護は、差分プライバシーやマルチセンター連合学習などの攻撃方法と保護方法の直接的なゲームを指します。公平性は、さまざまなデータとモデルのバイアス研究、および平等と正義のバランスを対象としています。環境保護は、エネルギー効率の高い戦略とよりエネルギー効率の高いコンピューティングハードウェアの追求を指します。

信頼できる AI 学術研究とは異なり、企業は現在の問題に対する解決策を提案する可能性が高くなります。例えば、2015年にアントグループは、AI技術を利用してユーザーのプライバシーとセキュリティを保護することを目指し、「エンド機能」に基づく携帯電話紛失リスク研究プロジェクトを立ち上げました。 AI の公平性に対処するため、IBM は 2018 年に、AI システムで偏りのないデータ セットとモデルを使用して特定のグループへの不公平を回避するための AI 信頼ツールをいくつか開発しました。業界では信頼できる AI の適用に対する要求が高まっており、エラーに対する許容度も高まっています。信頼できる AI に関する多くのホワイト ペーパーでは、信頼できる AI を実際に実装するには、生産プロセスに組み込んで、テクノロジーの制約の役割を果たすことができるメカニズムにすることが重要だと述べられています。

若い学生は技術的な才能の重要な予備軍です。 Trusted AI を学んでいる若い学生にとって、Trusted AI でのキャリアに備えるためには、現在の学習と生活の中で、学術の最先端と業界の最新の技術動向を理解し、どの技術がどの問題に適用できるかを考え、自分たちが住む世界、および業界の需要の問題点と技術的なボトルネックを積極的に観察して理解する必要があります。例えば、最近放送された信頼できるAI技術に関するリアリティ番組は、国内のトップクラスの大学と提携し、業界の「技術詐欺対策」における信頼できるAIの応用を通じて、実際の応用における信頼できるAI技術の能力を回復し、学界と産業界の取り組みを誰もが理解できる形で結び付け、技術実務家や研究者が深く関与できるようにしました。

AI研究を行う上で、「複雑さ」がキーワードとなります。環境の複雑さ、タスクの複雑さ、システムの複雑さによって AI のレベルが決まります。これを研究することで、AI 生成の原理が明らかになり、AI が人類の運命にどのような影響を与えるかという究極の問いにも答えることができます。信頼できる AI に関する今後の研究では、複雑性分析の観点から AI が人類にもたらす価値についても検討する必要があり、その推進には学界と産業界の共同の取り組みが必要になります。