倪光南学士がRAG技術、AIエージェント、AI倫理的課題について語る

中国工程院の院士である倪光南氏は、第2回北京人工知能産業革新発展会議で人工知能の発展に関する見解と経験を共有した。

倪光南氏は「人工知能が主導する新たな科学技術革命と産業変革が世界中で活況を呈している」と述べた。現在、世界各国では、人工知能分野を科学技術イノベーションの拠点として、国家競争力の強化に向けた大規模な展開が進められています。つい最近、ChatGPT に代表される大規模モデルが生成 AI の発展に新たな章を開きました。これは必然的に人類社会に大きな影響を与えるでしょう。私たちはこれに正面から向き合い、それに伴う機会と課題に立ち向かわなければなりません。生成AIの応用はまだ始まったばかりであり、中国は市場と応用の見通しにおいて大きな可能性を秘めています。

RAGなどの生成AI技術は、開発の大きな可能性を秘めている。

Ni Guangnan 氏は、アプリケーションの認識に重点を置き、基本的な大規模モデルと AI コンピューティング能力の開発を促進すべきだと考えています。現在、多くの機関や企業が垂直分野や応用場面における中小規模のモデルに関する法務業務に取り組んでおり、これは奨励と支援に値します。生成 AI は現在開発の初期段階にあり、大規模なモデル拡張技術には大きな開発の余地があります。

たとえば、RAG テクノロジーは、検索から得られた正確な結果を使用して、大規模なモデル応答の専門性と精度を向上させます。このテクノロジーは業界で広く認められています。第二に、精密なアルゴリズムの強化には大きな展望があります。たとえば、Sora は入力プロンプトに基づいて対応するビデオを出力できます。

現時点では、Sora は自分が位置するシーンの物理的特性を正確にシミュレートすることも、実際の時間の因果関係を理解することもできませんが、たとえば、Sora によって生成されたテーブルにジュースが飛び散るビデオには、カップの実際の状態とジュースがこぼれた状態という 2 つの安定した状態が含まれています。最も複雑な物理的状態は、ジュースがカップからテーブルにこぼれる様子ですが、これはソラでは生成できません。当然のことながら、このレベルを達成するには、多くの数学的法則、物理法則、産業用ソフトウェア、強力な計算能力を統合する必要があります。これは、検索強化生成技術や精密アルゴリズムの強化など、大規模モデルを中心としたさまざまな強化技術の開発を必要とする非常に挑戦的なタスクであり、幅広い開発の見通しがあります。

AIエージェントはAIアプリケーションを安全かつ効果的に促進するのに役立ちます

Ni Guangnan 氏は次のように指摘しました。「生成 AI には、業界が検討する価値のある問題が数多くあります。」たとえば、説明可能性、透明性、公平性、合法性、セキュリティはすべて徹底的な調査が必要であり、短期間で解決することはできません。生成AIを安全かつ効果的に適用するために、Ni Guangnan氏は、端末メーカーがさまざまな端末（コンピューター/携帯電話など）に、一般的に使用されているツールマネージャーに相当するAIエージェントソフトウェアを追加し、生成AIアプリケーションの監視機能を拡張することを提案しました。例えば、ある大規模モデルを呼び出す必要があるか？ある大規模モデルが出した結果を採用できるか？大規模モデルとローカルAIを統合できるか？これらの機能は従来のガジェットの機能をはるかに超えており、端末の運用・保守のアップグレードやセキュリティ保護などの機能を実現できます。

彼は端末メーカーに対し、最高権限を獲得し、オリジナルOSをデジタルOSに転換するために、責任を持ってAIエージェントソフトウェアをシステムソフトウェアの最下層に配置するよう求めた。 AIエージェントとは、端末所有者に代わって行動し、端末のアイデンティティ情報、価値観、趣味、習慣などを制御できることを意味します。現在、国内の一部端末デバイスにはすでにHonor MagicOS 8.0などのAIアシスタントが搭載されており、端末デバイスはよりスマートで、より効率的で、より人間的で、よりパーソナライズされています。 AIアシスタントがAIエージェントのレベルまでさらに拡張されれば、AIアプリケーションを安全かつ効果的に推進することに貢献するだろう。

生成AIの価値問題は注目に値する

Ni Guangnan 氏は次のように強調しました。「生成 AI システムに新しい傾向を持たせる方法はたくさんあるため、生成 AI システムによって提供される結論には価値の傾向がある可能性があります。」たとえば、トレーニングで使用されるビッグデータ構造、トレーニングを強化するために人間のフィードバックに依存するときに使用される報酬と罰のルール、生活の特定の側面またはプロセスへの何らかの介入、AI でのインタラクションを使用して実行される可能性のある何らかの誘導などです。

情報セキュリティを確保し、AI機能を安全に使用できるようにするために、倪光南氏は権威ある評価機関を導入し、主流の価値観に基づいてセキュリティ評価を実施し、より適切な製品をユーザーに提供することを提案した。

最後に、倪光南氏は「生成型AIは現代の主要な科学技術革新であり、新しい産業、新しいモデル、新しい勢いを生み出し、新しい高品質の生産性を開発する中核要素です。私たちはグローバルなビジョンを持って計画と開発を行い、人工知能時代の世界のリーダーとなるよう努め、科学技術強国になるという夢と国家の偉大な復興の実現にさらに貢献しなければなりません」と述べた。