AIビッグモデルオープンソースヒーロー！ザッカーバーグ氏はLLaMAリークについて議会から質問を受けた。「慣れている」

ザッカーバーグ氏は最近また大きなトラブルに巻き込まれた。

リチャード・ブルーメンソール議員（プライバシー、テクノロジー、法律に関する議会委員会の委員長）とジョシュ・ホーリー議員（プライバシー、テクノロジー、法律に関する議会委員会の委員）の2人の議員が、ザッカーバーグ氏に厳しい質問状を書いた。

2人の議員がザッカーバーグにLLaMaの漏洩について厳しく質問する手紙を書いた

ザッカーバーグ氏は、4chanでのLLaMaモデルの以前の漏洩に関して、15日までにいくつかの重要な質問に答えるよう求められた。

最も深刻なのは次の3つです。

• LLaMa をリリースする前に、Meta は漏洩やその他の状況に関するリスク評価を実施しましたか?
• LLaMa をリリースした後、Meta はモデルの漏洩を防ぐ、またはモデルの漏洩によって生じる被害を軽減するための対策を講じましたか?
• Meta はユーザーデータを使用してモデルをトレーニングしたり、AI テクノロジーの研究を行ったりしますか?

手紙全体の文言は非常に強烈で、LLaMa の漏洩によって引き起こされる可能性のある犯罪、オンライン詐欺、さまざまな否定的な状況について述べています。

手紙には次のように書かれていた。

「私たちはMetaのAIモデルの漏洩を懸念しており、スパム、詐欺、マルウェア、プライバシー侵害、嫌がらせ、その他の不適切な行動の文脈におけるMeta AI（LLaMA）の悪用や危害の可能性について深く懸念しています。」

「LLaMAをこのように制限なく無責任な方法で配布するという選択は、複雑なAIモデルをいつ、どのように公開するのが適切かという重要かつ複雑な疑問を提起します。」

将来何か大きなことが起こったら、ザッカーバーグ氏が責任を問われることになるということを暗示しているようです。

さらに、この書簡では、OpenAIとその製品であるChatGPTを「素晴らしい、栄光に満ちた、前向きな」イメージとして描いている。

「OpenAIのChatGPTは倫理ガイドラインに基づいてこの要求を拒否したでしょう。対照的に、LLaMAは要求された手紙に加えて、自傷行為、犯罪、反ユダヤ主義に関する他の回答を提供しました。」

このリチャード・ブルーメンソールは、少し前にサム・アルトマンが議会で質問されたときに最も重要な質問者であり司会者でした。

当時、アルトマンに対する彼の態度は非常に友好的だった。

前回のザッカーバーグ氏との質問会と比較すると、彼はザッカーバーグ氏の演説を遮っただけでなく、ザッカーバーグ氏の謝罪文を集めたプラカードを掲げ、なぜ過ちを認めることしかできずに反省しないのかと問いただした。

二人ともテクノロジーのリーダーなのに、なぜ待遇にこれほど大きな違いがあるのでしょうか?

彼らのモデルはAI研究コミュニティにオープンソース化され、AIの調整や透明性などの安全技術の開発を促進してきたにもかかわらず、彼らは今でも議会の老人たちから毎日のように質問を受けています。

競合他社のオープンソースとトレーニング データの合法性は規制当局によって無視され、彼らは名誉あるゲストとして扱われました。

質問状におけるOpenAIとMetaへの批判と合わせて、規制当局はザッカーバーグとMetaに対して実に多くの意見を持っていることがわかります。

努力すれば技術的な遅れを取り戻すことはできるが、規制当局が色眼鏡であなたを見て欠点を見つけると、将来本当に困ったことになるだろう。

この瞬間、シャオ・ズーの頭の中には一万個の LLaMA モデルが浮かんでいるはずだ。

AIオープンソースヒーロー - ザッカーバーグ

しかし、LLaMa のリリースに関しては、ザッカーバーグ氏と Meta 氏は業界と一般の人々から満場一致で認められました。

質問状の中心著者であるリチャード・ブルーメンソール氏は、自身のツイッターアカウントで、自分が書いた質問状をリツイートし、自身の行動について正当な説明を行った。

しかし、以下の返答はネットユーザーから圧倒的に疑問視され、攻撃さえ受けた。

ネットユーザーの反応

オープンソースコードは憲法修正第1条によって保護されています。 Meta がオープンソースである限り、一般の使用を阻止する方法はありません。そのため、あなたがこれらの疑問を提起するという事実は、あなたの動機を疑わせます。

AI が危険だと考える権利を誰があなたに与えたのですか? AI テクノロジーがオープンソース化され、無料化されることを阻止したとして、人々はあなたに反対票を投じたのですか?国民の代表としてあなたは一線を越えました！

Meta はオープンソースであり、商業的な利益を伴わないため、「商取引条項」はそれを制御できません。 Meta の外部の誰かによって漏洩された場合、Meta を探す意味は何でしょうか?

議員、あなたには今も将来も AI の開発を規制する権限はまったくありません。さらに、世界中の誰もがアクセスできるパブリックネットワークサービスを完全に制御するにはどうすればよいでしょうか?

立法権を行使して、議員としての職が奪われないようにして下さい。

今後も皆様に選ばれる事を願っております。

LLaMa は単なる脚注です。 UAE の Falcon は直接商用化され、オープンソース化されており、今後はこれらのオープンソース モデルに基づくプロジェクトがさらに増える予定です。したがって、不可能な目標を追求するあまり、アメリカのイノベーション能力や主要なオープンソース技術を抑制しないでください。

FB を責める必要はありません。これにより、オープンソース化を望む企業はソースコードを非公開にせざるを得なくなり、私たちが追求する技術的な透明性の実現がさらに困難になります。これは非常に危険な状況です。

AI の乱用の結果を Meta に負わせるのは無意味です。銃、ハンマー、野球のバットの製造業者にこれらのものの乱用の結果を負わせることができないのと同じように、Meta にはこの責任を負う能力も責任もありません。

彼のツイートに対する110件の返信の中には、彼の手紙を支持するものはほとんどなかった。

メッセージを残したネットユーザーのほとんどは、LLaMaのリリースと大規模言語モデルのオープンソース化が業界と技術の進歩を牽引していると述べ、ザッカーバーグ氏を擁護していることがわかります。

AI 業界にとって、オープンソースは、一般の人々が AI テクノロジーを徹底的に理解し、AI テクノロジーが人類に安全に役立てられるようにするための最も重要な方法である可能性があるからです。

もしある日、ザッカーバーグ氏やメタ氏が本当に AI の安全性の問題に対して責任を問われるとしたら、その背後にある論理は、ゴッサムがバットマンに責任を負わせることで公共の安全を確保しようとするのと同じくらいばかげたものとなるだろう。

したがって、議員の説明責任に関する手紙は当然国民に反対するものとなり、不評を買った。

LLaMa で Meta が受けたサポートは、一般の人々だけでなく、オープンソース コミュニティからも得られました。

LLaMa のオープンソースを Linux のリリースと比較する人もいました。

オープンソースのオペレーティング システム Linux のおかげで、インターネット スタートアップの敷居は事実上下がりました。

データ センターは商用のハードウェアとソフトウェア上で実行できるため、クラウド テクノロジーの誕生に必要な条件が整います。

今年3月に「アルパカ爆発」を引き起こしたのは、4chanでのLLaMaの漏洩だった。

これにより、オープンソースの AI コミュニティ モデルは、Microsoft や Google などのクローズドソースの技術大手と競争できるようになります。

現在の AI 業界を、過去のソフトウェア業界と同じように、オープンソースとクローズドソースの 2 つの陣営に分けてみましょう。

そして、ザッカーバーグ氏が率いるMetaはオープンソース陣営のリーダーです。

ザッカーバーグのAIへの野望

ほんの数日前、ザッカーバーグ氏はシリコンバレーの有名なテクノロジートークショーの司会者レックス・フリードマン氏と約3時間にわたるインタビューを行った。

インタビューの中で、彼はAI技術と産業に対する自身のビジョンを詳しく語ってくれました。

このことから、彼がなぜ Meta AI の将来をオープンソースとオープンソース コミュニティに賭けているのかが垣間見えるかもしれません。

将来のAIのニーズは、オープンソースが問題解決の答えであると判断する

ザッカーバーグ氏の考えでは、現在さまざまなタスクを完了するためにさまざまなアプリを使用したいのと同じように、将来ユーザーはさまざまな AI と対話するようになるだろう。

人生において、私たちがさまざまな人々とさまざまな感情的なつながりを持つのと同じです。

この需要はビジネス分野にも存在し、世界中のあらゆる企業が AI を導入したいと考えています。

Instagram、Facebook、WhatsApp などのプラットフォームに独自のページがある場合と同じように、対話できる AI にユーザーを誘導する必要があります。

このようにして、AI は競合他社の製品ではなく、自社の製品をユーザーに推奨するようになります。

そのため、将来的には、単一の AI が各特定のビジネスの利益と一致しない可能性があるため、すべての問題を解決する可能性は低くなります。

このため、ザッカーバーグ氏は、市場や生活において、異なる AI に対する明確な需要が確実にあると考えています。

多様化、カスタマイズされた AI に対する人々の将来のニーズを満たすには、オープンソースが最善の答えです。

オープンソースが必要な理由を説明した後、ザッカーバーグ氏はさらに次のように語った。

オープンソースは、エコシステム内でさらなるイノベーションを生み出し、Meta 製品を改善し、セキュリティに関する貴重なフィードバックを Meta に提供することができます。これは、Meta が優れたシステムを構築する上で非常に重要です。

もう 1 つの理由は、オープン ソース ソフトウェアは、より多くの人がレビューし、脆弱性を見つけやすいため、より安全である傾向があることです。

現在の AI の規模では、調整と理解は AI オープンソースを通じてより簡単に実現できます。

これらは、AI オープンソースが AI 業界と Meta 自体にもたらすメリットです。

AGI時代の新たな選択肢

まだ AGI 段階に達していないという観点から、よりオープンな環境では、クローズド ソースよりもオープン ソースの方が優れた選択肢となります。

しかし、AGI または超人工知能の時代が近づくにつれて、この問題は再考され、議論される必要があります。

ザッカーバーグ氏は、世界にはすでに人間の知能を超える組織や構造が存在していると考えている。

たとえば、企業には実体として独自のブランドがあります。

企業としての Meta は、個人を超えた知性を体現しています。

企業のようなネットワーク化されたシステムは、複数の人々の知性、または複数の人々の知性とテクノロジーを、世界中のどの個人よりもはるかに賢い組織に統合し、これらのシステムを使用して社会に良い影響を与えることができます。

AGI がいつ出現するかは誰にもわかりませんが、そのようなよりインテリジェントなシステムは人類の進歩を促進する有益な現象であることを歴史から学ぶことができます。

個々の AI システムが個々の人間同士のやり取りをよりスマートにするのと同じくらい、集合知もよりスマートになります。

シェアの最後に、ザッカーバーグ氏は自分自身をからかうことを忘れなかった。

彼は「私は人生で非常に多くの失敗と恥ずかしさを経験してきたので、失敗と恥ずかしさに耐えることが私の中核的な競争力となっている」と語った。