グーグルの人工知能研究責任者ジェフ・ディーン氏によると、同社は人工知能プログラムを搭載したソフトウェアの高速化を目的とした専用チップの社内開発を進めようとしている。 「当社は社内でさまざまなチップ設計プロジェクトにAIを活用しています」とディーン氏はサンフランシスコで毎年開催される国際固体回路会議での基調講演後のインタビューでZDNetに語った。 Google は過去数年にわたり、サーバー コンピューターで AI を処理するための AI ハードウェア ファミリである Tensor Processing Unit (TPU チップ) を開発してきました。 AI を使用してチップを設計することは好循環です。AI によってチップが改善され、チップが改善されると AI アルゴリズムが強化される、といった具合です。 ディーン氏は基調講演で、機械学習プログラムを使用してコンピューターチップの回路レイアウトを決定する方法と、最終的な設計が人間のチップ設計者と同等かそれ以上の優れた洞察力を持つ方法を参加者に示しました。 「配線」に関しては、チップ設計者は通常、建物のフロアプランを設計するのと同じような方法で、ソフトウェアを使用してチップ内の回路のレイアウトを決定します。チップ製造コストの増加につながる不必要な複雑さを回避しながらチップのパフォーマンスを提供するなど、複数の目標を満たす最適なレイアウトを見つけるには、多くの要素を考慮する必要があります。このバランスを可能な限り最良の方法で設計するには、多くの人間の経験則が必要です。現在では、AI アルゴリズムもこの種のヒューリスティックな思考を念頭に置いて設計できるようになりました。 ディーン氏は例を挙げ、ディープラーニング ニューラル ネットワークでは問題を解決するのに 24 時間しかかからないが、人間の設計者であれば 6 ~ 8 週間はかかるだろうと述べ、前者の解決策の方が優れていると述べました。これにより、チップ上の配線の総量が削減され、効率が向上します。 ディーン氏は出席者に対し、問題解決に使用された機械学習モデルはわずか24時間でチップ設計を考案したが、人間の設計者の場合は完成までに8週間かかったと語った。 このディープラーニングプログラムは、Google の DeepMind 部門が囲碁を制覇するために開発した AlphaZero プログラムに似ており、強化学習の一種でもあります。プログラムは目標を達成するために、さまざまなステップを試して、どのステップがより良い結果につながるかを調べます。ただし、チェスをする代わりに、プログラムはチップ内の最適な回路レイアウトを設計します。 囲碁とは異なり、解の「空間」(ワイヤーの数)ははるかに大きく、前述のように、ゲームに勝つこと以外にも多くの要件を満たす必要があります。 ディーン氏は、社内の研究はディープラーニング技術を理解する初期段階にあると述べた。 「私たちはデザイナーと協力して、ワークフローでこのプログラムをどのように使い始めることができるか実験しています。また、このプログラムがどれだけ役に立つのか、どこを改善できるのかを理解しようとしています。」 Google の AI 設計への取り組みは、機械学習をより高速に実行できるさまざまなサイズの専用チップの製造を目指したチップ製造のルネッサンスの真っ只中に行われている。一部の機械学習科学者は、専用の AI ハードウェアによって、より大規模で効率的な機械学習ソフトウェア プロジェクトが実現できると考えています。 ディーン氏は、GoogleがAI設計プロジェクトを拡大したとしても、市場に多様性をもたらし、急速に成長するAIハードウェアのスタートアップ企業(Cerebras SystemsやGraphcoreなど)が数多く存在するだろうと述べた。そして、この多様性は興味深いだろうと言いました。 「これらのスタートアップが市場で生き残れるかどうかはわかりませんが、多くのスタートアップが設計に対して非常に異なるアプローチを取っているのは興味深いことです。加速モデルの中には、オンチップ SRAM に収まるほど小さいものもあります。」これは、機械学習モデルが非常に小さくなり、外部メモリを必要としない可能性があることを意味します。 「モデルが SRAM に収まる場合、非常に効率的ですが、収まらない場合は選択すべきチップではありません。」 Google によれば、機械学習プログラムは人間の設計者ですら思いつかなかった多くの斬新な回路設計を生み出したという。 これらのチップが何らかの標準設計に適合するかどうか尋ねられたとき、ディーン氏は、少なくとも現時点では多様性がある可能性が高いことを示唆した。 「機械学習の研究が爆発的に進み、あらゆる問題の解決に利用されているため、さまざまなアプローチが生まれると思います。選択肢がたくさんあると、1つの選択肢に焦点を絞るのではなく、5つまたは6つ、1,000ではなく、5つまたは6つの異なる設計ポイントが必要になります。」 ディーン氏はさらに次のように付け加えた。「多くの問題を解決できる汎用的なアプローチなのか、あるいはある側面を加速させる特殊なアプローチなのか、どの設計アプローチが最良となるのかを見るのは興味深いでしょう。」 TPU を超えた Google の取り組みについて、ディーン氏は、Google はより特殊なチップの実験を進めていると述べた。 Google の AI ハードウェアが現在の製品を超えて拡張される可能性があるかどうか尋ねられると、ディーン氏は「ああ、その通りだ」と答えた。 「データセンターベースのサービスでも、スマートフォンの多くの製品でも、機械学習が Google 製品全体でますます多く使用されていることは間違いありません。」ディーン氏は、複雑さが解消されたプログラムの例として、現在 70 の言語をサポートし、機内モードでもスマートフォンで使用できる Google 翻訳を挙げています。 ディーン氏は、Google が AI 向けチップのファミリーを拡大したと指摘した。たとえば、Edge TPU は、データ センターの中核となる低電力アプリケーションや高性能アプリケーションなど、「さまざまな設計ポイント」をカバーします。グーグルが多様性をさらに拡大するかどうか尋ねられると、ディーン氏は「そう思う」と答えた。 「データセンター以外の分野でも、自動運転車のような高電力環境の違いが見られるでしょう。自動運転車は必ずしも 1 ワットではなく、50 ワットや 100 ワットになることもあります」とディーン氏は言う。「そのため、携帯電話とは異なるアプローチが必要です」。一方、農業用センサーのような超低電力アプリケーションでは、クラウドにデータを送信せずに AI 処理を実行できます。このようなセンサーは、AI によってサポートされている場合、データ (カメラなどからのデータ) が収集されたかどうかを評価し、個々のデータ ポイントを分析のためにクラウドに送り返すことができます。 |
<<: DeepMindがニューラルネットワークと強化学習ライブラリをリリース、ネットユーザー:JAXの開発を促進
>>: 成功する機械学習チームを構築するための 4 つのステップ
専門家の混合 (MoE) は、LLM の効率性と精度を向上させるためによく使用される手法です。このア...
消費者の実際の購買行動や実際のユーザーレビューのビッグデータ分析に基づいた中国初の「2015年中国電...
熱帯雨林の杖が、ダンブルドアのようなあらゆる時代の並外れた魔法使いの伝説を生み出したのと同じように、...
[[274397]] 5G時代は人工知能にどのような新たな機会をもたらすのでしょうか?人工知能と5G...
機械学習やコンピューター ビジョンのプロジェクトで、画像の品質が低いという問題に遭遇したことはありま...
大きな言語モデルの中には世界モデルがあるのでしょうか? LLM には空間感覚がありますか?そして、こ...
最近、業界の多くの大規模なモデルベンチマークが、「強度値」のアップデートの新たなラウンドを導入しまし...
5月12日、第12回中国道路交通安全製品博覧会及び公安交通警察装備展示会(以下:交通博覧会)が重慶...
GitHub の CEO である Thomas Dohmke 氏は最近、人工知能とソフトウェア開発の...
RAG は、2023 年に最も人気のある LLM ベースのアプリケーション システム アーキテクチャ...
最近、マスク氏がOpenAIを訴えたというニュースがテクノロジー界に再び波紋を巻き起こしている。 1...
AI導入の最大の推進要因はインフラのアップグレードです。近年、ビッグデータ分析やAIなどの分野が注目...
記事の冒頭では、サッカーの試合解説ビデオを見てみましょう。それは正しいように聞こえませんか?あなたの...
マシンビジョンは急速に発展している人工知能の分野です。簡単に言えば、マシンビジョンとは、測定と判断の...
ミッドジャーニー火災以降、アーティストの道はますます狭くなっていった。最近、Midjourney や...