最近、この写真はAIコミュニティで広まり始め、LeCun氏もそれを転送しました。 この図は、AI オープンソース コミュニティとプライベート モデルの競争環境を直感的に示しています。 5 ショット MMLU ベンチマークでは、オープン ソース モデルとクローズド ソース モデルのパフォーマンスを表す 2 本の線が 2 年以内に交差することになります。 OpenAI や Google などの企業が最新モデルに関する情報を独占しようと努めている一方で、Meta などのオープンソース コミュニティは、よりアクセスしやすい生成 AI を積極的に推進しており、従来のクローズドソース AI 開発モデルに挑戦する可能性があります。 ARK InvestのCathie D Woodが作成したチャート これはおそらく 2024 年の最も重要な AI チャートの一つだろうと多くの人が言っています。 ご覧のとおり、最近登場したオープンソースのローカル モデルは、すでに大規模で高価なクラウドベースのクローズド ソース モデルを上回っています。 コラボレーションとオープンソースイノベーションの力は本当に驚くべきものです。 2024 年はオープンソースの年になるでしょうか?ネットユーザーたちは興奮してこう書いた。 我々は転換点に近づいています。オープンソース コミュニティ プロジェクトの現在のペースでいくと、今後 12 か月以内に GPT-4 と同等のレベルに到達すると予想されます。 GPT-4 は非常に強力だったので、GPT-5 のリリースが大きな影響を与えるかどうかはわかりません。 次の課題は計算を最適化することです。前述したように、モバイル デバイスへの展開のためのモデリングは、誰もが所有しているため、最も大きなゲーム チェンジャーとなります。 2024年はオープンソースAIの年になります! 明らかに、ここ数か月、GPT-5 に関する噂がありました。 誰かが率先して写真に直接線を加えました。 このチャートは誰もが知っていることだけを示していると言う人もいます。 GPT-4 は実際には独自のクラスであり、外れ値であり、軌道に適合しません。 Claude は優れた UI と長いコンテキスト ウィンドウを備えていますが、横方向に動いています。 Gemini Ultra はかなり目を引くものです。 大規模で高価なクローズド クラウド ベース モデルに代わるオープン ソースのオンプレミス モデルの台頭は、非常に喜ばしいことです。 この変化により、AI が民主化され、より広範なイノベーションが生まれ、小規模なプレーヤーでも多額の投資をすることなく強力なツールにアクセスできるようになります。 Bloom は 2022 年 8 月に 39.13 ポイントで追加され、Mistral 7B は 2023 年 10 月に 64.7 ポイントで追加され、MoE 8x7B Mixtral は 2023 年 12 月に 71.3 ポイントで追加されることが提案されました。 「こんなに素晴らしいものが無料だなんて信じられません。なんて素晴らしい時代に生きているのでしょう!」 誰かが大胆なアイデアを思いつきました。10 倍安くて 10 倍強力なオープンソース モデルがあれば、経済学のジェヴォンのパラドックスに基づいて、私たちのモデルは同様に高価だが 100 倍強力になると予測できます。供給が制限要因であれば、それに応じて需要が爆発的に増加します。 このペースが一定であれば、約 1 年以内に AGI が実現するでしょう。 もちろん、このチャートは厳密ではないと指摘する人もいます。 クローズドソース モデルにはさらにひどい例外がいくつかあり、それが平均を下げる可能性があります。 したがって、ここでは平均値を比較するのではなく、各カテゴリの最大値を比較する必要があります。 また、Grok、GPT-2、GPT-3などの外れ値を除去すると、プライベートモデルの傾きが大きく変わり、逆の結論につながるという意見もあります。 EU AI法案交渉が終了:オープンソースモデルは幅広く免除良いニュースとしては、法的には、各国がオープンソース モデルに対して明らかに寛容になっていることです。 12月初旬、EU人工知能法案に関する交渉が終了した。 議員らは6月に欧州議会でAI法案に投票する 交渉で未解決のまま残された論争の的となっている問題の 1 つは、基盤となるモデル、特にオープン ソースのモデルをどのように規制するかということです。 ルカン氏は「オープンソースモデルを放棄しなかったフランス、ドイツ、イタリアの各政府」に感謝するメッセージを特別に書いた。 この法律にはベースモデルに対する制限が含まれていますが、「オープンソースモデル」については広範な免除が規定されています。 ルカン氏は、この動きは、フランスのミストラルやドイツのアレフ・アルファ、オープンソースモデルLLaMAをリリースしたメタなど、法律に反対するロビー活動を展開してきた欧州のオープンソースAI企業に利益をもたらす可能性があると述べた。 MetaとIBMがオープンソースアライアンスの設立を主導12月6日、50社を超える大手テクノロジー企業、名門大学、研究機関が共同でオープンソースの旗印の下に新たな人工知能連合を設立し、OpenAIやNvidiaと競争することを誓った。 AIアライアンスはMetaとIBMが主導し、50以上のテクノロジー企業、大学、機関が共同で設立しました。 同アライアンスのメンバーには、AMD、Intel、Dell、Oracle、Sonyといった老舗テクノロジー企業のほか、AIの波の後に登場したHugging Face、Stability AIといった新興企業も多数含まれる。 加盟大学は主に米国の大学で、カリフォルニア大学バークレー校、イェール大学、コーネル大学、イリノイ大学カリフォルニア大学カリフォルニア大学、ニューヨーク大学など、コンピュータサイエンスの分野で有名な大学が多数含まれています。また、インペリアル・カレッジ・ロンドン、スイス連邦工科大学チューリッヒ校、東京大学、ヘブライ大学など、米国以外でも高い評価を得ている大学が多数あります。 この組織にはNASAのような政府機関も含まれています。 Metaの関係者によると、同連合の主な使命は「オープンイノベーションとオープンサイエンスを支援すること」だという。 「AIの将来が2、3、あるいは5つの組織によって決まると考えているなら、それは間違いだ」とIBMの上級副社長兼IBMリサーチディレクターのダリオ・ギル氏は語った。 「この同盟によって、オープンイノベーションの世界は投資する価値のある世界であるということが人々に明確になり、自信が持てるようになることを願っています。」 AIアライアンスの公式データによると、これら50以上の機関は毎年800億ドル以上の研究開発資金を集めており、研究機関には40万人以上の学生がおり、企業には100万人以上の従業員がいます。 世界中のオープンソース支持者が団結しました! |
>>: BaiduのHou Zhenyu氏:ビッグモデルがクラウドコンピューティングを再形成し、AIネイティブクラウドがクラウドコンピューティングの様相を変える
人工知能は、既存の技術と組織活動の効率を向上させることを目的としています。しかし、気候変動や、グリー...
海外メディアの報道によると、人工知能(AI)は医療とヘルスケアを根本的に変えるだろう。心電図、脳波、...
6月28日、先月のGoogle I/O開発者会議で、Googleは開発中の大規模言語モデル「Gem...
機械学習の急速な発展により、インテリジェントな音声処理のための強固な理論的および技術的基盤が築かれま...
導入あるクラスの観測値が他のクラスの観測値よりも高い場合、クラスの不均衡が生じます。例: 不正なクレ...
[[373347]]最近、法律相談ロボット「ダニウ」が潼南区公共サービス法律センターで正式に運用され...
ネットワーク技術やグリッドコンピューティングの発展により、組み込み型モバイル機器を中核とした「ユビキ...
週末ですが、まだ充電中です。今日は強化学習について見ていきます。ただし、ゲームで使うつもりはありませ...
[[315476]]今年のアリババ経済フロントエンド委員会の4つの主要な技術方向の1つとして、フロ...
最新世代の予測言語モデルは、言語の根底にある意味の一部も学習したようです。驚くべきことに、これらのモ...
2023年7月を迎え、大規模言語モデル(LLM)の開発は新たな段階に入り、オープンソースが話題になっ...
マイクロソフトリサーチアジアは、「中国の大学における人工知能人材の国際トレーニングプログラム」に関す...
言語モデル (LM) は、不快な言葉を生成する可能性がしばしばあり、モデルの展開にも影響を及ぼします...
1. 急速な発展の10年1. 論文の発表状況<br /> 人工知能は過去10年間で急速に...