OpenAI、超知能AIの制御に関する中核的な技術的課題に取り組むため新チームを結成

OpenAIは、共同設立者兼主任科学者のイリヤ・スツケバー氏とアラインメント責任者のヤン・ライケ氏が率いる新チームを結成し、次世代の「超知能AIシステム」を誘導・制御する方法を模索すると発表した。

同チームは現在、最高優先度を持ち、同社のコンピューティングリソースの20％を使用する権利を持っていると報じられている。目標は、今後4年以内に「超知能AIの制御」という中核的な技術的課題を解決することだ。研究チームは、人間よりもはるかに賢いAIシステムを誘導し、制御するためには「科学的かつ技術的な」進歩を遂げる時間が必要だと主張している。

研究者のスツケバー氏とライケ氏は、「次世代の超知能AI」が10年以内に誕生する可能性があると考えている。これはこれまで人類が発明した技術の中で最も影響力のあるものとなり、本来は解決に多くの人的資源を必要としていた多くの問題を人類が解決するのに役立つ可能性がある。しかし研究者たちは、この技術が人類に逆効果をもたらし、その強大な力によって人類が主権を失ったり、絶滅したりする可能性があるとも考えている。

研究チームは、「人間よりも賢いAIシステムが人間の意図に従うことを保証する」という点では、潜在的な超知能AIを誘導または制御するための合理的な解決策が現在存在しないと述べた。現在、人間はフィードバックを使用してAIに生成プロセスを調整させることしかできず、人間はAIシステムを根本から確実に監視することはできない。

OpenAI は、ほぼ人間レベルのパフォーマンスを発揮する AI「自動アライメント研究者」を構築し、その後、大量のディープラーニングを使用して AI の能力を拡大し、そのスーパーインテリジェンスを反復的に調整することを計画しています。

これを実現するために、研究者はスケーラブルなトレーニング方法を開発し、その結果得られたモデルを検証し、最後にモデルを一連の制御可能性テストにかける必要があります。

IT Home は、研究者らが現在、この AI システムを使用して他の AI システム (スケーラブルな監督) の評価を支援することを計画していることを発見しました。彼らはまた、人間の研究者が監督できないタスクにモデルがどのように監督を一般化しているかを理解し、制御したいと考えています。

スツケヴァー氏とライケ氏は、研究が進むにつれて、将来的には研究の焦点が変化し、新たな研究分野が出現する可能性もあると予想していると述べた。

現在、この新しいチームでは機械学習の研究者やエンジニアを募集中です。 Sutskever 氏と Leike 氏は、次世代の超知能 AI の問題を解決するには、より多くの機械学習の専門家を採用することが非常に重要だと考えています。チームの研究成果を広く共有し、業界全体の進歩を促進する予定です。

新しいチームの研究は、ChatGPTのような現在のモデルの安全性を向上させるとともに、AIの誤用、経済混乱、偽情報、偏見や差別、依存症、過度の依存など、AIがもたらすその他のリスクを理解し、軽減するというOpenAIの既存の研究を補完するものである。新しいチームは、超知能 AI システムと人間の意図を組み合わせる機械学習の課題に重点的に取り組みますが、私たちの技術的ソリューションがより広範な人間的および社会的問題を考慮に入れるように、関連する社会技術的問題に関して学際的な専門家と積極的に協力しています。