フロンティアモデルフォーラムは責任あるAIの創造を目指している

政府や社会からの監視が強まる中、人工知能（AI）の責任ある開発を促進し、業界標準を確立することを目的とした新たな同盟を4社が結成した。

「アントロピック、グーグル、マイクロソフト、オープンAIは、最先端のAIモデルの安全で責任ある開発の確保に重点を置く新しい業界団体、フロンティアモデルフォーラムの設立を発表する」とオープンAIのウェブサイトに掲載された声明文には記されている。フロンティアモデルフォーラムは、メンバー企業の技術と運用の専門知識を「AIエコシステム全体」の利益のために活用すると声明では述べられている。このグループは、ベンチマークや評価を含む技術標準を推進し、ソリューションの公開リポジトリを開発することを目指しています。

同盟の主な目的は次のとおりです。

AI の安全性研究を進め、最先端モデルの責任ある開発を促進し、リスクを最小限に抑え、機能と安全性の独立した標準化された評価を可能にします。

最先端モデルの責任ある開発と展開に関するベスト プラクティスを特定し、一般の人々がテクノロジの性質、機能、制限、影響を理解できるようにします。

政策立案者、学者、市民社会、企業と協力して、信頼とセキュリティのリスクに関する知識を共有します。

気候変動の緩和と適応、がんの早期発見と予防、サイバー脅威への対抗など、社会の最大の課題の解決に役立つアプリケーションの開発をサポートします。

フォーラムでは、「最先端モデル」を、さまざまなタスクを完了する上で現在のトップモデルの能力を上回る大規模な機械学習モデルと説明しています。

同組織は、ベストプラクティスの特定、AI 安全性研究の推進、民間企業と政府間の情報共有の促進という 3 つの主要分野に重点を置いて、責任ある AI 開発に取り組む予定です。フォーラムは、敵対的耐性、堅牢性、メカニズムの説明可能性、スケーラブルな監督、独立した研究アクセス、出現行動、異常検出などの分野でこれらの取り組みを推進するための研究を調整します。

挙げられているその他の今後の行動としては、同盟の戦略と優先事項を導く諮問委員会の設置、ワーキンググループや執行委員会とともに憲章、ガバナンス、資金調達などの構造の形成などが挙げられる。同フォーラムは、AIパートナーシップやMLCommonsなどの既存の業界の取り組みを支持しており、「有意義な協力方法」について民間社会や政府と協議する予定だと述べた。

アライアンスのメンバーはわずか 4 社ですが、これらの最先端モデルを積極的に開発および実装し、技術的および組織的手段を通じてセキュリティに対する強いコミットメントを示し、メンバーの要件リストに基づいて共同イニシアチブに積極的に参加することでフォーラムの目標を推進する準備ができている組織であれば、アライアンスに参加できます。

「フォーラムは、最先端のAIモデルの安全で責任ある開発を確実にするために、他の標準に準拠した組織が参加し協力することを歓迎します」とグループは書いている。

しかし批評家は、大手AI企業によるこうした自主規制の試みは、新たな世代の技術独占を生み出す可能性があると指摘している。

将来的には、政府と AI イノベーターの間で継続的かつ綿密な連携が必要になるでしょう。 AI は生活と社会のあらゆる側面に影響を及ぼします。そして、これほど包括的なテクノロジーにおいては、政府は、意図しない結果から国民を保護し、安全な AI の実際的なパラメータなど、これらの新しいイノベーションが生み出す重要な問題に関する唯一の真実の情報源を確立する役割を果たさなければなりません。

長期的には、倫理を AI の中心に据え、特定の障害に対する制御を深めて維持し、最終的に AI が善の力となるようにする必要があります。これには、規制によって競争が損なわれず、新たな世代の技術独占が生み出されないよう保証することも含まれます。同時に、すべての AI コミュニティがこの社会の変化に責任を持って参加するよう呼びかけられる必要があります。