OpenAI、Google、Microsoftなどが1000万ドルのAI安全基金を設立

Google、Microsoft、OpenAI、Anthropicは共同声明を発表し、アメリカのシンクタンクInstituteの幹部であるクリス・メセロール氏をフロンティア・モデル・フォーラムの初代事務局長に任命した。そして、「社会が最も有能なAIモデルを効果的にテストし評価できるようにするツールの開発に向けた継続的な研究を推進する」ために1000万ドルのAI安全基金を設立すると発表した。

フロンティア モデル フォーラムは、今年 7 月に Microsoft、OpenAI、Google、Anthropic によって共同で設立されました。最先端の人工知能モデルの安全で責任ある開発の確保に重点を置いた業界団体です。このフォーラムは次のことを支援するように設計されています:

• 最先端モデルの責任ある開発を促進し、潜在的なリスクを最小限に抑えるために AI の安全性研究を推進します。
• 最先端モデルのセキュリティのベストプラクティスを特定します。
• 政策立案者、学界、市民社会などと知識を共有し、AIの責任ある開発を促進します。
• 社会課題の解決に役立つ AI アプリケーションの開発を強力にサポートします。

発表によると、AI安全基金は世界中の学術機関、研究機関、スタートアップ企業に所属する独立した研究者を支援するという。当初の資金提供は、Anthropic、Google、Microsoft、OpenAI、およびその他の慈善パートナーから提供されました。

この基金の主な焦点は、最先端システムの潜在的に危険な機能に対する評価技術の開発とテストを支援するための新しいモデル評価技術の開発を支援することです。 「この分野への資金提供を増やすことで、安全基準が向上し、AIシステムがもたらす課題に対処するために業界、政府、市民社会が必要とする緩和策や管理策についての知見が得られると確信しています。」

同基金は今後数カ月以内に提案を募集する予定。フロンティア モデル フォーラムは、その戦略と優先事項を導くための諮問委員会を設立することも計画しています。

1,000万ドルは決して小さな金額ではないが、AIの安全性研究という観点や、フロンティア・モデル・フォーラムのメンバーが商業活動に費やす金額と比較すると、「かなり控えめな金額」である。テクノロジーメディアのTechCrunchは、今年だけでもAnthropicが次世代AIアシスタントの開発のためにAmazonから数十億ドルを調達しており、Googleも以前に同社に300万ドルを投資していると指摘した。

この基金は、他の AI 安全基金と比較しても規模が小さいです。ブログ「Less Wrong」の分析によると、Facebookの創設者ダスティン・モスコヴィッツ氏が共同設立した助成金提供および研究財団であるOpen Philanthropyは、AIの安全性のために約3億700万ドルを寄付した。

公益法人「生存と繁栄基金」もAI安全プロジェクトに約3,000万ドルを寄付した。全米科学財団は、オープン・フィランソロピーからの資金援助を受けて、今後2年間でAIの安全性研究に2,000万ドルを費やすと発表した。

「フロンティア モデル フォーラムは、より大きな基金が次のステップになることを示唆しています。それが実現すれば、AI の安全性研究を前進させるチャンスがあるかもしれません。ただし、基金の営利目的の支援者が研究に過度の影響を及ぼさないと信頼できることが条件です。しかし、どう考えても、この最初の資金提供の波は、あまりに限られたもので、多くのことを達成するには不十分なようです。」