OpenAI憲章中国語版

この文書は、OpenAI 内外の多くの人々からのフィードバックを含め、過去 2 年間にわたって改良してきた戦略を反映しています。 AGI のタイムラインはまだ不確定ですが、私たちの憲章は、その開発全体を通じて人類の最善の利益のために行動するための指針となるでしょう。

OpenAI の使命は、人工汎用知能 (AGI) (つまり、経済的価値が最も高いタスクにおいて人間を上回る、高度に自律的なシステム) が全人類に利益をもたらすようにすることです。私たちは安全で有益な AGI を直接構築しようとしますが、私たちの仕事が他の人がその結果を達成するのに役立つ場合、私たちの使命は達成されたとみなします。この目的のために、当社は以下の原則を遵守します。

広範囲に流通することのメリット

私たちは、AGI の展開に関して私たちが持つあらゆる影響力を活用して、それがすべての人々の利益のために使われるようにし、AI や AGI が人類に危害を加えたり、権力を不当に集中させたりすることを避けることに尽力します。

私たちの第一の受託者義務は人類に対するものです。当社は、使命を達成するためには多大なリソースを動員する必要があると予想していますが、全社の利益を損なう可能性のある従業員と利害関係者間の利益相反を最小限に抑える方法で行動するよう常に努めます。

長期的な安全性

私たちは、AGI を安全にするために必要な研究を実施し、そのような研究が AI コミュニティによって広く採用されるようにすることに尽力しています。

私たちは、後期段階の AGI 開発が、適切な安全対策を講じる時間がない中での競争になってしまうことを懸念しています。したがって、価値観が一致し、安全性を重視したプロジェクトが私たちよりも AGI の構築に近づいている場合、私たちはそのプロジェクトとの競争をやめ、支援を開始することを約束します。契約はケースバイケースで調整しますが、典型的なトリガーは「今後2年間で成功の可能性がさらに高まる」です。

技術リーダーシップ

AGI が社会に与える影響に効果的に対処するには、OpenAI が AI 機能の最前線に立つ必要があります。ポリシーと安全性の推進だけでは不十分です。

私たちは、AGI よりずっと前に AI が社会に幅広い影響を及ぼすと信じており、私たちの使命と専門知識に直接一致する分野でリーダーシップを発揮するよう努めていきます。

私たちは他の研究機関や政策機関と積極的に協力し、AGI の地球規模の課題に共同で取り組むことができるグローバル社会の構築を目指します。

私たちは、AGI への道を歩む社会に役立つ公共財を提供することに尽力しています。現在、これには AI 研究のほとんどを公開することが含まれますが、安全性とセキュリティの問題により、安全性、ポリシー、標準の研究を共有することの重要性が高まる一方で、将来的には従来の公開が減少すると予想しています。