MoE(Mixed of Experts)モデルは最近とても人気があるので、詳しく紹介する必要はないですよね? 最も先進的で最先端の大規模モデル技術の方向性として、MoE は推論コストを増やすことなく大規模モデルのパフォーマンスを大幅に向上させることができます。たとえば、MoE のサポートにより、GPT-4 がもたらすユーザー エクスペリエンスは、GPT-3.5 と比較して革命的な飛躍を遂げています。 しかし、一般ユーザーが MoE の魔法を体験したい場合は、アカウントを申請するために月額 20 ドルを支払う必要があります。 それで...無料で使えるMoEはありますか? 持っている! 敷居が超低く誰でも無料で遊べるMoEモデルが登場! 崑崙万為は最新の天宮2.0大規模モデルをリリースしました。数千億のパラメータ規模に基づき、GPT-4と同じMoEハイブリッドエキスパート構造を採用しています。強力なマルチモーダル機能を備え、最大10万の超ロングコンテキストウィンドウ(15万以上の漢字)をサポートし、複雑なタスクへの対応力が強化され、モデルの応答速度も高速化しています。 Tiangong 2.0 大型モデルに搭載された Tiangong AI スマートアシスタント アプリの新バージョンが、モバイル アプリ ストアから無料でダウンロードして使用できるようになりました。 その結果、Tiangong AI Smart Assistantは、MoEアーキテクチャを搭載し、すべてのCエンドユーザーに無料で公開される中国初のAIアプリケーションとなりました。 まずは効果を見てみましょう: Excel をアップロードしてデータを分析し、ワンクリックでグラフを作成します。 彼女が怒っていて、なかなかなだめられない場合、それはあなたが言うべき言葉を考えたり、注意すべきことを思い出すのに役立ちます。 顔の特徴も分析しますか? AIの不思議なスキルポイントが増えました… GPT-4と同じアーキテクチャを採用Tiangong AI スマート アシスタントのアップグレードの鍵は、最新のアップグレードされた Tiangong 2.0 モデルにあります。 GPT-4と同じMoE(Mixture of Experts)アーキテクチャを採用しており、GPT-4の高速化の鍵とも考えられています。 MoE は並列フィードフォワード ニューラル ネットワークであり、主にゲーティング モデル/ルーターとエキスパート モデルのグループで構成されています。ゲーティング モデル/ルーターにデータが入力されると、システムはタスクの種類に応じて各トークンを 1 つ以上のエキスパート モデルに割り当てます。これにより、各エキスパート モデルはデータのその部分の処理に集中でき、モデル全体のパフォーマンスが向上します。 △MoEアーキテクチャ例(LIMoE) 業界では、GPT-4 には 1 兆 7,600 億のパラメータが含まれており、その中にはそれぞれ約 1,110 億のパラメータを持つ 16 の専門家モデルも含まれると推測されています。これらは、Python の専門家、高度な画像解析の専門家、事実確認の専門家、セキュリティと倫理の専門家、感情分析の専門家などです。 この精確な専門家によるモデル選択と分業の仕組みにより、ビッグモデルの理解力、柔軟性、正確性、安全性が大幅に向上し、最近ではほぼ最もホットなビッグモデルのトレンドとなり、国内外のビッグモデルプレイヤーが追随しています。 最新アップグレードの天宮モデル2.0もMoEアーキテクチャを採用しています。主な改善点は 3 つあります。
複雑なタスクへの対応という点では、Tiangong 2.0 に統合された複数のエキスパート モデルは、異なるデータ分布と構築モードに応じて構築できるため、さまざまなサブ フィールドの大規模モデルの専門能力が向上し、さらにさまざまなエキスパート モデルの出力結果を統合することで、複雑なタスクやマルチモーダル タスクのパフォーマンスが大幅に向上します。 同時に、MoE アーキテクチャのスパース特性により、モデルは質問に答えるたびにネットワークの対応する部分をアクティブ化するだけで済み、同じパラメータ スケールの密なモデルよりも計算効率が高くなります。 Tiangong 2.0 の高いスパース性により、ユーザーへの応答がより迅速になります。 柔軟性の面では、スパース モデルにより、Tiangong 2.0 は計算量を増やすことなくモデル サイズを大幅に拡張し、同じコンピューティング リソースでより強力なパフォーマンスを実現できます。 Tiangong 2.0 では、エキスパート モデルの数を増やし、エキスパート モデルの重み比を調整することで、モデルのスケーラビリティを大幅に向上させることができます。 天宮は、新たにリリースされた1000億レベルの天宮2.0のほか、過去6か月間に、数百億のオープンソース大規模モデル「天宮Skywork-13B」、AIエージェント開発プラットフォーム「天宮SkyAgents」、マルチモーダル大規模言語モデル「天宮Skywork-MM」もリリースした。 これらのモデル機能は、Tiangong AI スマート アシスタントの最新バージョンに反映されています。主なものは次のとおりです:
マルチモーダル性の面では、天宮 AI スマートアシスタントは画像とテキストの対話機能を追加しました。これにより、視覚資料をよりよく理解し、画像とテキストの対話や画像とテキストの作成などのタスクを実行し、画像生成の品質を向上させることができます。 同時に、画像とテキストの両方で回答を生成することもできます。 昨年9月、天宮のマルチモーダル大型モデルSky-MMv1が発売された。 ビジュアル エンコーダー、学習可能なサンプラー モジュール、LoRA で微調整された大規模な言語モデルで構成されています。 Tiangong のマルチモーダル大規模モデルは、独自に開発した Mental Notes テクノロジーを通じて人間の認知プロセスをシミュレートすることで、「幻覚」の問題を大幅に軽減し、中国語の指示に従う能力と中国語関連のシーンを認識する能力を高め、マルチモーダル理解に対する文化的偏見の制限を軽減します。 超長いコンテキストに関しては、Tiangong AI スマートアシスタントは現在 10 万のコンテキスト (15 万以上の中国語文字) をサポートしており、拡張テクノロジーにより 20 万の超長いドキュメントの理解をサポートできます。 InfiniteBench評価では、Tiangongシリーズの大型モデルは10の指標で平均47.5ポイントを獲得し、Claude2を上回り、GPT-4 128kの52.6ポイントに近づきました。 非常に長いコンテキストの「干し草の山の中の針」テストでは、Tiangong モデルの精度は 100% に達する可能性があります。 このテストでは、膨大なドキュメント セットに特定の情報を挿入し、そのドキュメント セットに質問して、モデルがそこから正しいキー情報を見つけることができるかどうかをテストし、長いコンテキストから情報を抽出できるかどうかを検証します。 下の図は、「干し草の山の中の針」テストにおける Tiangong モデルの実験結果を示しています。横軸はトークンの長さ、縦軸は文書に埋め込まれた情報の深さを表しています。Tiangong モデルは 100% の精度を達成しました。 最後に、Tiangong AI スマートアシスタントには、ネットワーク化されたインテリジェント検索機能もあり、これもビッグモデルを基礎技術として使用しています。 天宮AI検索は設計当初からデータセットとインデックスリンクに大規模モデル技術を導入していたとみられる。インターネット上の膨大なコンテンツを識別・選別し、虚偽広告コンテンツをブロックし、比較的純粋で高品質な検索結果を初期段階で排除することができる。 △結果はまずCCTV.comのリンクを参照そして、ビッグモデルを使用してユーザーの検索指示を書き換え、ユーザーの真意を深く探ります。 検索エンジンのコアとなるリコール (Match) とランキング (Rank) 技術では、大規模モデルが人間の認識能力と判断能力を模倣して、検索命令 (Query) と検索対象ドキュメント (Doc) が関連しているかどうかを判断します。また、一致した関連サンプルを検索エンジンが学習するための「教科書的なケース」として使用することで、モデル側でエンドツーエンドの反復を実現しながら検索エンジンのパフォーマンスを向上させることができます。 たとえば、ユーザーが検索する場合、多くの場合、散発的な情報しか提供されず、キーワードをより深く理解するには大規模なモデルが必要になります。 検索強化技術(RAG)を導入することで、大規模モデルの回答品質を大幅に向上させ、回答を説明できるようになり、「ナンセンス」の傾向を回避できます。 RAG の技術的な流れは次のとおりです: ユーザーが質問する - データベースから関連する回答を取得する - システムがユーザーの質問と取得した関連する回答を組み合わせてプロンプトを作成する - プロンプトをビッグ モデルに送信する - ビッグ モデルが質問の結果を返す。 上記一連のテクノロジーのサポートにより、Tiangong AI スマートアシスタントも多数の新機能を導入しました。例えば、データ分析、話題の百科事典、画像とテキストの対話など。 具体的な効果は何ですか?私たちも体験しに来ました〜 AIは被験者3が何であるかを理解するTiangong AI スマート アシスタントの新バージョンには、次の 5 つの新しい機能が追加されました。
それらの多くはマルチモーダル機能を備えています。たとえば、写真とテキストの会話では、写真をアップロードして AI に詩を書かせることができます。 川、高層ビル、車両など、写真の重要なポイントを捉えるだけでなく、霞を仙境の白い霧のように美しく仕上げることもできます。 新たに追加されたデータ分析機能には、マルチモーダル機能も備わっています。 対応するドキュメントをアップロードして指示を与えるだけで、対応するチャートをすぐに描画できます。 人気のインターネットミームに答える際、Tiangong AI スマートアシスタントは画像やテキストも提供できます。 たとえば、「主題 3 とは何ですか?」と質問します。 モデルはこのミームの詳細を正確に説明することができ、最後にビデオリンクが添付されます。 AI が同様の質問に直面した場合、その回答も非常に的を絞ったものになることは注目に値します。 たとえば、これらはすべてアンディ・ラウの「公禧発財」から派生したインターネット用語ですが、回答ではその由来が明確に区別されています。 上記の新しい機能に加えて、Tiangong AI スマート アシスタントは、AI ペインティングにおけるプロンプト ワードと画像の詳細の理解が向上しました。 中国の旧正月が近づいてきました。家で退屈しているなら、Tiangong AI スマート アシスタントを使って「大金を稼ぐ」チャンスをつかみましょう。 2月8日から、天宮AIスマートアシスタントは「賢く龍年を描く」AI絵画コンテストも開始します。 アプリ内の「AIペイント」機能を使って絵を描き、イベント会場に提出すれば、最大10万人民元の賞金を獲得するチャンスがあります。 参加するには? アプリストアで「Tiangong」を検索してクリックしてダウンロードしてください〜 AGIは誰もがより自分を表現できるようにするクンルン・ワンウェイが国内大型模型業界のダークホースであることは疑いようがない。 崑崙万為は、早くも昨年 4 月に、2000 億語の容量を持つ「天宮」大規模言語モデルのバージョン 1.0 をリリースしました (ダークホース! 崑崙万為の ChatGPT バージョン「天宮」は、自社のプログラマーの面接を通過し、初リリース時にその場で実証することを敢行しました)。昨年8月、崑崙万為は、大規模モデル機能を搭載した中国初のAI検索を開始しました(中国初のAI検索が登場!初回テスト:広告0、複数回の質問に対応、検索結果の自動要約)。 崑崙万為は2020年にはすでに大型モデルの軌道に乗り、研究開発に数億元を投資してきた。 2022年、Kunlun Wanweiは数百億レベルのパラメータモデルをオープンソース化するとともに、AIGCアルゴリズムモデルの全範囲を公開し、開発者やコミュニティの共創から幅広い賞賛を集めました。 崑崙万為は、「天宮1.0」双百億級大型モデルと「天宮2.0」MoE大型モデルのほか、「天宮」シリーズなどの最先端AI製品も発売しており、その中には数百億級オープンソース大型言語モデルシリーズ「天宮Skywork-13B」、AIエージェント開発プラットフォーム「天宮SkyAgents」、マルチモーダル大型言語モデル「天宮Skywork-MM」などがある。AI大型モデル、AI検索、AI音楽、AIストーリー、AIゲームなどAIビジネスマトリックスを徐々に構築しており、国内で最も強力なモデル技術とエンジニアリング能力、最も包括的なレイアウトを備えた人工知能大型モデル企業の1つである。 中国初のMoEアーキテクチャを搭載し、すべてのCエンドユーザーに無料で公開されているAIアプリケーションである「天宮2.0」と「天宮AIインテリジェントアシスタント」の新バージョンのリリースであれ、前述の最先端の大型モデルAI製品の公開であれ、その背後には、崑崙万為の「天宮」チームの大型モデル分野における深い耕作と蓄積があります。 最先端技術の開発は一夜にして達成できるものではなく、国産大型車の革新は常に長く困難な道のりです。 「なぜビッグモデルの機能をすべての C エンド ユーザーに無料で公開する必要があるのか」と質問されたとき、Kunlun Wanwei 氏は次のように答えました。
今日、大規模モデル応用の潮流が始まっています。近い将来、大規模なモデルに基づき、誰でも利用できるスーパー アプリは、最も期待される成果の 1 つです。なぜなら、短期間でできるだけ多くの人がビッグモデルのトレンドを取り入れ、AI を真に自分自身に役立つものにすることができるからです。 全体的な傾向もこの方向に進化しています。技術的なレベルでは、マルチモーダル性とMoEが現在の主流です。これらはモデルのパフォーマンスをボトムアップで強化し、AIが世界をより深く理解できるようにします。アプリケーションレベルでは、さまざまな人気 AI ゲームプレイが次々と登場しており、これは、より多くの人々が生成 AI の魅力を感じ、人間とビッグモデルが相互作用するためのより良い方法を模索できるようにするためでもあります。 Tiangong AI スマートアシスタントのアップグレードは、大手モデルプレーヤーがトレンドをリードしていることを直接反映しています。技術のアップグレード+豊富なゲームプレイ、そして無料で誰でも利用できるため、敷居を可能な限り低く抑えることができます...今年のAIアプリケーションのトレンドは、春節前に開始されました。 さらに注目すべきは、誰もが大きなモデルのトレンドに参加できると、誰もがトレンドを形成する機会を持つということです。 アプリを開いて試してみてください。あなたの好きな AI ゲームプレイが次の驚異的なヒットになるかもしれません。 |
<<: マスク氏はSpaceXの有能なインターンを称賛した。彼は放課後にAIを使ってElder Scrollsを解読し、Nature誌の表紙を飾った。
この記事はAI新メディアQuantum Bit(公開アカウントID:QbitAI)より許可を得て転載...
機械学習は、将来性が最も高く、業界に最大のメリットをもたらす AI の分野です。関連レポートによると...
AI の成熟度が増すということは、あらゆる規模の組織が AI をより簡単に使用して、重大で複雑な問題...
この記事はAI新メディアQuantum Bit(公開アカウントID:QbitAI)より許可を得て転載...
今年初めにOpenAIが発表した壮大な傑作「Sora」が、ビデオ関連分野のコンテンツエコロジーを変え...
人工知能とモノのインターネット (AIoT) は、テクノロジー分野における新しいプレーヤーの 1 つ...
エリック・アダムス市長は最近、ニューヨーク市政府がAI技術の応用を推進する計画を発表した。この計画に...
時間と空間を結びつけるのは速度であり、エネルギーと質量を結びつけるのも速度です。事実と価値を結びつけ...
このコースでは、ナレッジグラフ技術の開発動向、機械学習に基づくラベルグラフ技術のアイデア、主要技術の...
この記事はAI新メディアQuantum Bit(公開アカウントID:QbitAI)より許可を得て転載...
[[271210]]海外メディアの報道によると、マングローブ・キャピタル・パートナーズは今週、201...