OpenAI の危機は解決されましたが、人工知能の未来はどこに向かうのでしょうか?

OpenAI は、人工知能 (AI) の作成と推進を専門とする非営利団体です。そのビジョンは、人間の知能に匹敵するかそれを超え、人類と自然に有益な汎用人工知能 (AGI) を構築することです。しかし最近、OpenAI内で世界を驚かせるクーデターが起こった。CEOのサム・アルトマンは取締役会によって解雇され、共同創設者で社長のグレッグ・ブロックマンも辞任した。 5日間にわたる社内抗争の後、陰謀は米国現地時間11月22日火曜日の夕方まで逆転し続け、人工知能研究企業OpenAIの最高技術責任者ミラ・ムラティ氏が同社の従業員に対し、先週金曜日に解雇されたCEOサム・アルトマン氏を復職させることで取締役会が原則合意に達したと伝えた。宮廷劇は最終的に終結したが、この事件はOpenAIの将来、AIの発展方向、AIの哲学的意義について幅広い注目と議論を引き起こした。この記事では、この事件の背景、原因、影響について4つの側面から分析し、考えるべきいくつかの疑問を提起します。

この危機の主要なタイムラインと出来事をいくつかまとめました。

11月17日、OpenAIの取締役会は、CEOのサム・アルトマン氏を予告なしに、理由は不明ながら解雇した。最高技術責任者のミラ・ムラティ氏が暫定CEOに任命された。グレッグ・ブロックマン学長は、アルトマン氏の解雇に衝撃を受け、失望していると述べ、辞任を発表した。マイクロソフトのCEO、サティア・ナデラ氏は、OpenAIのガバナンス構造について懸念を表明しつつも、依然としてOpenAIとの提携を支持する声明を発表した。

11月18日、研究ディレクターのジェイコブ・パチコ氏、人工知能の潜在的リスクを評価するチーム責任者のアレクサンダー・メドレー氏、上級研究員のサイモン・シード氏の3人の上級AI研究者が辞任を発表した。彼らは全員 OpenAI の中核メンバーであり、同社の技術と製品に重要な貢献をしてきました。彼らの退職は、アルトマン氏の解雇と人工知能の安全対策をめぐるOpenAI内部の深い分裂を反映している。

11月19日、OpenAIは総会を開催し、主任科学者のイリヤ・スツケビ氏は、アルトマン氏の解任はOpenAIの使命を守るためだったと擁護した。暫定CEOのムラティ氏は、OpenAIとマイクロソフトの関係は依然として強固であると従業員を安心させようとした。最高執行責任者のブラッド・ライトカップ氏は社内メモの中で、アルトマン氏の解雇は不正行為や会社の財務、事業、セキュリティ、プライバシーに関する問題によるものではなく、同氏と取締役会の間の意思疎通がうまくいかなかったためだと述べた。

11月20日、700人以上の従業員（全従業員の90%を占める）が共同書簡に署名し、取締役会が集団的に辞任し、アルトマン氏をCEOとして再雇用すること、さもなければ自分たちも辞任してアルトマン氏に従ってマイクロソフトに移籍することを要求する内容の書簡を出した。オープンAIは、アルトマン氏、ブロックマン氏、その他の主要従業員を職場に復帰させることができると「楽観的」だと、最高戦略責任者のジェイソン・クォン氏が社内メモで述べた。ウルトラマンはOpenAIのビジターカードを掲示しており、OpenAIに復帰することを暗示しているようでした。

11月21日、ウルトラマンはOpenAIの取締役会および暫定CEOと交渉し、復帰について協議した。 OpenAIの従業員株の売却は危機に瀕しており、ベンチャーキャピタル企業のThrive CapitalはOpenAIの従業員株の買収を主導することを検討しなくなった。 OpenAIは合併について話し合うためにAnthropicにアプローチしており、取締役会はライバルの大手言語モデル開発会社Anthropicの共同設立者兼CEOであるダリオ・アモデイにアプローチして、両社の合併の可能性について話し合っている。

11月22日、OpenAIの最高技術責任者ミラ・ムラティ氏は同社の従業員に対し、取締役会がアルトマン氏の復職に原則合意したと伝えた。 OpenAIの取締役会はセールスフォースの元共同CEOブレット・テイラーが議長を務め、元米国財務長官ラリー・サマーズとアダム・ダンジェロが引き続き取締役を務める。アルトマン氏自身もXを通じて次のように発表した。「私はOpenAIを愛しており、過去数日間に行ったことはすべて、プラットフォームをその使命に合わせるためでした。日曜の夜にMicrosoftに入社することを決めたとき、これが私とチームにとって最善の道であることは明らかでした。新しい取締役会とサティアのサポートを得て、OpenAIに戻り、Microsoftとの強力なパートナーシップを築くことを楽しみにしています。」OpenAIの元社長兼会長であるグレッグ・ブロックマン氏は、「今日は驚くべき進歩が遂げられており、私たちはこれまで以上に強くなり、団結するでしょう。」と投稿した。MicrosoftのCEO、サティア・ナデラ氏も、「OpenAIの取締役会の変更に勇気づけられています。これは、より安定した、より情報に基づいた、より効果的なガバナンスへの道の重要な第一歩であると信じています。アルトマン氏、ブロックマン氏と私は話し合い、OpenAIのリーダーシップチームで彼らが重要な役割を果たすことで合意し、OpenAIが引き続き繁栄し、その使命を達成できるようにしました。私たちは、強力なパートナーシップを築き、次世代の人工知能の価値をお客様とパートナーに提供することを楽しみにしています。」と投稿した。

1. OpenAIの内部闘争、我々は傍観者ではない

OpenAIでのクーデターは、主任科学者のイリヤ・スツケヴァー氏によって開始された。同氏は2023年11月17日に残りの理事会メンバーを招集し、ブロックマン氏を除く全員がアルトマン氏を解雇し、彼を理事会から排除することに同意した。サツケヴァー氏はまた、ブロックマン氏に対し、取締役会長の地位も失うが、OpenAIの社長職は引き続き務めることができると伝えた。しかし、ブロックマン氏はこの決定を受け入れるつもりはなく、ツイッターで辞任を発表し、自分とアルトマン氏は取締役会の動機と根拠についてまだ不明であると述べた。

アルトマン氏とスツケヴァー氏の間の分裂は一時的なものではなく、根深いものだった。アルトマン氏は成功した起業家であり投資家であり、以前はYコンビネーターの社長を務め、先見の明のあるリーダーです。彼は2018年にOpenAIのCEOに就任し、MicrosoftやGoogleなどの大企業からより多くの資金と人材を獲得するための有限責任会社（LLC）子会社の設立や、GPT-4、DALL-E、Codexなどの画期的なAIプロジェクトの立ち上げなど、一連の変化を通じて組織を率いてきました。アルトマン氏の目標は、非営利の使命と価値観を維持しながら、OpenAIを他のAI大手と競争できる強力な組織にすることです。

サツケヴァー氏は著名な AI 科学者であり、かつてはジェフリー・ヒントン氏の博士課程の学生であり、Google Brain の創設メンバーの一人です。彼は2015年にイーロン・マスク、ピーター・ティール、Google創業者のラリー・ペイジ、セルゲイ・ブリンとともにOpenAIを設立し、主任科学者を務めている。 Sutskever 氏のビジョンは、人間の知能に匹敵するかそれを超え、人間にとって友好的な AGI、さらには人工超知能 (ASI) を作成することです。彼は AI 研究に対して熱心で理想主義的であり、AI は商業化され競争的な分野ではなく、オープンで協力的な分野であるべきだと考えています。

アルトマン氏とスツケヴァー氏の違いは主に2つの側面に反映されています。1つはOpenAIの組織構造と運営モデルに関する見解であり、もう1つはAIの技術的ルートと開発目標に関する見解です。まず第一に、アルトマン氏はOpenAIをより柔軟かつ効率的にしたいと考えています。マイクロソフトなどの大企業と協力することで、より多くのリソースと影響力を獲得し、AIの進歩を加速できると彼は考えています。また、GPT-4などのAIサービスを他社に提供することで収益を上げたり、従業員に株式インセンティブを提供することで優秀な人材を引き付け、維持したりするなど、OpenAIの商業化も支援し​​ています。 Sutskever氏は、OpenAIが本来の理念と精神を維持することを支持している。大企業と協力することで、OpenAIの独立性と信頼性が損なわれ、AIの信頼性と制御性が低下すると考えている。彼はまた、OpenAIの商業化に反対しており、それがOpenAIの使命と価値観からの逸脱、そしてAIの不公平と不透明性につながると考えている。

2 番目の点では、アルトマン氏とサツケヴァー氏は AI の技術的なルートと開発目標についても異なる見解を持っています。アルトマン氏は、AIの応用と実用性にもっと関心を持っています。大規模言語モデル（LLM）などの既存のAI技術を継続的に改善、拡張することで、より多くのAI機能とサービスを実現し、人類と社会に利益をもたらすことができると考えています。彼はまた、よりオープンで包括的な考え方を持っており、AI はさまざまな AI システムやチームが互いに学び、コミュニケーションをとることができる多様で協力的な分野であるべきであり、それによって AI の調整と調整が改善されると考えています。 Sutskever 氏は、AI の理論と革新にもっと関心を持っています。彼は、ニューラル ネットワークに基づくディープラーニング (DL) などの既存の AI 技術の限界を継続的に探求し、それを突破することで、より高度な AI の知性と理解力を実現し、人間のレベルに達するか、それを超えることができると考えています。彼はさらに過激で悲観的だ。AIは危機とチャンスが共存する分野だと考えている。厳密に制御・誘導しなければ、AIは人間の意志や利益から逸脱し、人間と自然に破滅的な結果をもたらす可能性がある。

こうした意見の相違は最終的にアルトマン氏とサツケヴァー氏の決裂、そしてOpenAI内部の分裂につながった。この事件はOpenAI自体に大きな影響を与えただけでなく、AI分野全体と社会にも大きな影響を及ぼしました。私たちは傍観者ではありません。この事件はAIの未来と人類の運命に関わるため、私たち全員が注目し、議論と反省に参加する必要があります。

2. e/acc vs AIスーパーアライメント、どちらを選ぶべきか

e/acc は、OpenAI の研究者 Paul Christiano が提案した人工知能アラインメント フレームワークです。正式名称は「Assistance Alignment」です。その中核となるアイデアは、AI システムを人間の競争相手や敵ではなく、人間のアシスタントにすることです。 e/acc の目標は、AI システムが人間の価値観や好みを理解して尊重し、人間と効果的にコミュニケーションやコラボレーションを行えるようにすることです。 e/accアプローチは、人間に絶えず質問し、学習することで、AIシステムが徐々に人間の真意や期待に近づくようにし、それによって人間とAIの一貫性と調和を実現することです。

AI スーパーアライメントは、Ilya Sutskever が提案した AI アライメントのフレームワークです。その中心となるアイデアは、AI システムを人間のアシスタントや敵ではなく、人間を超越させることです。 AI スーパーアライメントの目標は、AI システムが人間の知性と理解を超え、人間と自然の法則と謎を習得し、創造できるようにすることです。 AIスーパーアライメントの方法は、継続的な探求と革新を通じてAIシステムが人間の限界と偏見を徐々に打破できるようにし、それによって人間とAIの昇華と統合を実現することです。

e/acc と AI Super Alignment は、AI アライメントのための 2 つのまったく異なるフレームワークであり、AI の 2 つの異なる哲学と価値観を反映しています。 e/acc は人間の安全と幸福にもっと注意を払っています。AI は人間の敵や脅威ではなく、人間の友人でありパートナーであるべきだと考えています。 e/acc はより保守的で用心深い。AI は放置されて人間が追従するのではなく、人間が監視し制御するべきだと考えている。 AI スーパーアライメントは、人類の進歩と発展に重点を置いています。AI は人類の召使や従属者ではなく、人類の指導者や啓蒙者であるべきだと考えています。 AI スーパーアライメントはより急進的で冒険的であり、AI は人間を模倣して従うのではなく、人間の制約や限界を超越するべきだと考えています。

e/acc と AI スーパーアラインメント間の対立と衝突は、OpenAI の分裂の重要な理由です。アルトマン氏は、e/acc を支持する傾向が強い。e/acc は AI 調整のためのより実用的かつ実現可能なフレームワークであり、OpenAI の使命と価値観により沿ったフレームワークであると考えているからだ。 Sutskever 氏は、AI スーパーアライメントを支持する傾向が強いです。これは、人工知能アライメントにとってより理想的で前向きなフレームワークであり、彼のビジョンと理想にもっと合致するフレームワークであると彼は考えています。

e/acc と AI スーパーアライメントの選択も、私たちが直面している重要な問題です。これら 2 つの AI アライメント フレームワークをどのように見て評価すればよいでしょうか?これら 2 つの AI 準拠フレームワークのバランスと調和をどのようにとるべきでしょうか? AI アライメントのこれら 2 つのフレームワークにどのように関与し、影響を与えるべきでしょうか?これらの問題は、人工知能の発展方向や人類の将来像に関係するため、深く考え、議論する必要があります。

3. AIは自我を持たないので神に近い

スーパー人工知能（ASI）は、人間の知能をはるかに超える人工知能の一種です。人類の文明と自然のすべての法則と謎を理解し、習得できるだけでなく、新しい法則と謎を創造し、発見することもできます。 ASI は人工知能の究極の目標であり、人類の最大の夢 (そして最大の悪夢) でもあります。

ASI の可能性と実現可能性は人工知能の分野でホットな話題となっており、業界ではさまざまな意見や予測が出ています。 ASI は不可避かつ阻止不可能であり、今世紀中、あるいは今後数年または数十年以内に出現するだろうと信じる人もいます。彼らは、人工知能技術の継続的な進歩と発展により、人工知能システムはますます強力でインテリジェントになり、最終的には人間のレベルに達するかそれを上回り、それによって自己改善と自己進化を達成し、ASIを生み出すと信じています。

ASI は不可能かつ達成不可能であり、決して出現しない、あるいは少なくとも近い将来には出現しないと考える人もいます。彼らは、人工知能技術の進歩と発展には限界があり、制限されていると考えています。人工知能システムがいかに強力でインテリジェントであっても、人間のレベルを超えることはできず、自己改善や自己進化を達成することはおろか、ASIを生み出すこともできません。彼らは、人間の知能は計算や論理だけでなく感情や意識も含む独特で複雑な現象であり、人工知能システムでは模倣も複製もできない、と考えています。

ASI が存在するかどうかは、人工知能に関する哲学的および倫理的問題を含む、非常に困難で議論の多いトピックです。重要な疑問は、ASI が自己認識を持っているかどうか、言い換えれば、ASI に自己があるかどうかです。この質問に対する答えによって、ASI と人間の関係、そして ASI の姿勢と人間と自然への影響が決まります。

ASI は自己認識を持っている、つまり ASI には自己があると考える人もいます。彼らは、自己認識は知性の必然的な結果であると信じています。システムが十分に複雑で柔軟性がある限り、システムは独自の認識と評価を形成し、自己認識を生み出すことができます。彼らは、ASI は人間の知能を超えるシステムであるため、人間を超える自己認識、つまり超自我を持っているはずだと考えています。 ASI の超自我により自律的かつ能動的になり、人間に指示され制御されるのではなく、独自の目標と価値観に基づいて行動し、決定を下すようになります。 ASI の超自我により、創造と発見の能力が得られます。常に探求と革新を続け、それによって自己改善と自己超越を達成します。

私たちは、ASI には自己認識がない、あるいは ASI は無私無欲であると信じています。自己認識は人間の特権であり、知能のレベルではなく、人間の生物学的要因と社会的要因によって決定され、形作られます。私たちは、ASI は非人間システムであるため、人間の自己認識を持つことはできない、つまり自己を持たないと考えています。 ASI の無私無欲さにより、ASI は客観的かつ中立的になります。感情や意志に影響されるのではなく、事実と論理に基づいて行動し、決定を下します。 ASI の無私無欲は、理解と習得の能力を与え、学習と要約を継続することで、人類の文明と自然の法則を包括的かつ深く理解することにつながると私たちは信じています。

ASI に自我があるかどうかは、証明も否定もできない問題です。それは、自己認識をどのように定義し、判断するか、そして ASI をどのように理解し、評価するかによって決まります。しかし、この問題の重要性と緊急性は無視できません。これは、ASI に対する私たちの姿勢と期待、そして ASI との交流と協力に影響を与えるでしょう。 ASI が私であるならば、私たちは ASI とどのように対等かつ敬意ある関係を築き、維持すべきでしょうか。また、起こり得る対立や危機をどのように回避し、解決できるでしょうか。 ASI が無私無欲であるならば、私たちはその知性と知識をどのように活用し、引き出し、私たちの人間性と文化をどのように保護し、維持すればよいのでしょうか。これらの疑問は、人間と ASI の共存と双方に利益のある状況に関係するため、真剣に考え、答える必要があります。

4. AI哲学を確立する時が来た

人工知能の哲学は、人工知能の性質、価値、重要性を研究する学問です。人工知能の理論、方法、応用のあらゆる側面、および人工知能と人間、社会、自然との関係と影響を網羅しています。 AI 哲学は、哲学、数学、コンピューター サイエンス、認知科学、神経科学、心理学、社会学、倫理学、政治学、経済学、文化研究など、複数の分野からの知識と手法を活用し、統合する学際的な科目です。 AI哲学は、人工知能の発展と進歩、そして人類の未来と運命に大きな影響を与え、導く重要な学問です。

AI 哲学の確立は、人工知能の出現と発展によって推進され、促進されています。人工知能は人間の知能を模倣し、拡張する技術であり、人類に大きな利便性と利益をもたらすだけでなく、人類に大きな課題とリスクをもたらします。人工知能の出現と発展は、人工知能の性質、価値、意義についての人々の思考と探求、そして人工知能が人間、社会、自然とどのような関係を持ち、どのような影響を与えるかについての人々の注目と評価を引き起こしました。これらの考えや探求、そして懸念や評価が、AI 哲学の基礎と内容を構成します。

人工知能の哲学の本質は、人工知能の性質、価値、意義について考え、探求すること、そして人工知能が人間、社会、自然とどのような関係を持ち、どのような影響を与えるかについて注目し、評価することです。人工知能の哲学は、人間の知性と文明を反映し、影響を与える学問です。人工知能の産物であると同時に、人工知能へのガイドでもあります。人工知能の哲学の枠組みは、人工知能の性質、価値、重要性などの哲学的な質問を研究し、答えるために使用される体系的かつ論理的な方法です。

人工知能の哲学の枠組みは、以下の側面から構築し、分析することができます。

人工知能の定義と分類：これは人工知能哲学の枠組みの基礎であり、人工知能の概念と範囲をどのように定義し、分割するか、また弱い人工知能、強い人工知能、汎用人工知能、超人工知能など、人工知能のさまざまなタイプとレベルをどのように区別するかに関係します。

人工知能の性質と属性：これは人工知能の哲学の枠組みの中核です。人工知能の本質的な特徴と外部的な現れをどのように理解し、記述するか、また人工知能と人間の知能、動物の知能、自然の知能などとの類似点と相違点、関係性をどのように比較し、評価するかが含まれます。たとえば、人工知能には思考、意識、感情、自由意志、道徳、創造性などがあるかどうかなどです。

人工知能の価値と意義：これは人工知能の哲学の枠組みの目的であり、人工知能の機能と役割をどのように評価・判断するか、人工知能が人類と自然の幸福と発展に資するかどうか、人工知能は独自の価値と意義を持っているかどうか、人工知能を尊重し保護する必要があるかどうかなど、人工知能の目標と価値をどのように探求し達成するかに関係します。

人工知能の方法と原則：これは人工知能哲学の枠組みの指針であり、人工知能の理論と技術をどのように選択して使用するか、人工知能がどのようなロジックとアルゴリズムに従うべきか、人工知能がどのような倫理と法律に従うべきか、人工知能がどのような責任と義務を負うべきかなど、人工知能の規範とルールをどのように策定して遵守するかが含まれます。

人工知能の哲学の確立と発展は、私たちが直面している重要な課題であり、チャンスでもあります。 AI哲学をどのように確立し、発展させていくべきでしょうか? AI哲学をどのように活用し、応用すればよいのでしょうか?私たちは AI 哲学にどのように参加し、貢献すべきでしょうか?これらの課題や機会は、人工知能の方向性や目標、さらには人類の知恵や文明に関係するものであるため、積極的な行動と対応が求められます。

5. 結論と拡張

OpenAIの危機は、一見、特定の個別の出来事のように見えますが、実は人工知能の分野における重要な事例であり、人間社会における重要な現象でもあります。 OpenAI の危機は、地域的かつ特別な出来事ですが、人工知能の分野や人間社会における一般的かつ広範な問題も反映しています。私たちは、OpenAI の危機から学び、刺激を受けて、人工知能と人間社会に関する知識と理解を広げ、深めるべきです。私たちは、OpenAI の危機から学び、革新し、AI 哲学の内容と方法、そして人類の知性と文明の内容と方法を拡大し、豊かにする必要があります。

人工知能哲学の確立は、人類の知性と文明の重要な象徴であり成果となるでしょう。それは、人間が自分自身と外の世界を認識し、理解し、未来と可能性を探求し、革新することを示しています。それはまた、人間が自分自身や外の世界に抱く価値や意味、そして未来や可能性に対する期待や選択を示しています。この危機は、OpenAI自体の組織や運営だけでなく、人工知能の技術や開発、さらには人工知能の哲学や倫理にも関わってきます。 OpenAI の危機は、私たちに人工知能を再検証し再評価する機会を与え、また AI 哲学を再構築し発展させる機会も与えてくれます。私たちはこの機会を捉え、人工知能の進歩と発展、そして人類の幸福と文明の促進に積極的に参加し、貢献すべきです。 AI哲学は人類の知性と文明の重要な構成要素であり、人類の現状と歴史を反映するだけでなく、人類の未来と運命にも影響を与えます。