研究によると、AIシステムは大量のエネルギーを消費する

研究によると、AIシステムは大量のエネルギーを消費する

同研究機関はAIインフラの需要について徹底的な調査を実施し、AIシステムに必要なエネルギーは本格導入前に制御不能なほど拡大していると研究報告書で指摘した。この結論は非常に不安を抱かせるものである。

人工知能技術は新しいものではなく、その背後にあるアイデアは 50 年前、あるいは 70 年前にまで遡ることができます。人工知能システムの能力は前例のないほど爆発的に増大し、多くの投資を受けています。現在、人工知能でできることは飛躍的に増加しており、人工知能システムの開発と運用に使用されるリソースも飛躍的に増加しています。人々はすでに人工知能がもたらす脅威と機会を感じています。

しかし、AI の競争は比較的秘密裏に行われています。世界は ChatGPT や Midjourney のような AI アプリケーションを採用し、その可能性に基づいてビジネス モデル全体を構築していますが、これらのシステムがどのように機能し、財務、社会、環境のコストがどの程度になるかについては、ほとんど理解されていません。

大量のエネルギーの必要性

研究機関は、Microsoft、Google、Nvidiaなどの企業の人工知能設計者にインタビューした。人工知能ハードウェア分野の発展の歴史をまとめました。人工知能の発展は、率直に言って、驚くべきものです。

人工知能の急速な発展には、半導体チップの根本的な革新とまったく新しいネットワーク アーキテクチャが必要です。これは、もともと天気予報や分子モデリングなどのタスク用に構築された国内のスーパーコンピューターの容量を消費し、これまでにない新しい特殊なクラウドシステムを生み出しています。

しかし、テクノロジー企業は、AI業界が地球の資源をどれだけ消費するかについては語っていない。 Google の Bard は社内アプリケーションです。 OpenAI は Microsoft の緊密なパートナーであり、特別に作成された Azure クラウド リソースへの優先的かつプライベートなアクセス権を持っています。

2018 年当時、OpenAI は人工知能に対する人間に優しいアプローチを奨励する非営利の研究組織でした。これは警告のように聞こえます。業界をリードする AI モデルのコンピューティング要件は 3.4 か月ごとに 2 倍になります。 2018年に人工知能AlphaGoが囲碁で人間に勝利したとき、2012年にAIリーダーだった8層ニューラルネットワークのAlexNetの30万倍の計算能力が使われた。

ムーアの法則では、コアプロセッサの計算能力は 2 年ごとに 2 倍になると予測されていました。それは印象的ですが、その期間での増加は 7 倍にしかなりません。いずれにせよ、チップ製造の物理的限界に達すると、ムーアの法則は効力を失うことになるだろう。セバスチャン氏と彼の会社が発見したように、AI リーダーが AI のトレーニングとパフォーマンスを向上させる唯一の方法は、より高エネルギーの専用プロセッサの大規模なコレクションで、より大きなモデルを実行することです。

人工知能システムのエネルギー消費が人々にパニックを引き起こし始めており、一部の業界データは警鐘を鳴らしている。業界メディアの報道によると、昨年のデザインオートメーションカンファレンスで、AMDの最高技術責任者マーク・ペーパーマスター氏は、2050年までに人工知能システムのエネルギー使用量の増加により、世界のエネルギーがすべて消費されると警告した。

これは、10 年以上前にデータ センターのエネルギー使用について行われた予測の再現のように思えますが、実際は誇張された予測であることが判明しました。しかし、人々が心配するのには理由があります。

Google とバークレーの研究者は、GPT-3 の 1 回のトレーニング実行で、サンフランシスコからニューヨークへの往復飛行の約 3 倍の炭素排出量が発生すると推定しています。

一方、人工知能によるエネルギー需要の増加には限界がありません。 Arm の最高技術責任者である Ian Bratt 氏は、ニューラル ネットワークのコンピューティング需要を「飽くなきもの」と表現しています。その理由は、ネットワークが大きくなればなるほど、結果も良くなるという単純な理由からです。 AI レースにどんな犠牲を払ってでも勝たなければならないというプレッシャーがなければ、エネルギーとハードウェアのコストが制限要因になるかもしれません。

AI のエネルギー使用について人々が懸念している兆候は、実際に憂慮すべきものです。

RISCの発明者デビッド・パターソン氏が率いるグーグルとバークレーの科学者チームは、サンフランシスコとニューヨークの間を飛行する旅客機が180トンの二酸化炭素相当を排出すると指摘する論文を発表し、その後、GPT-3のトレーニングによってその約3倍の二酸化炭素が排出されると推定した。ここではどのようなエネルギーミックスが想定されているのかは論文からは明らかではない。

現在、AI は使用される前に限られた数のトレーニングを実行する傾向があり、使用ごとに「推論」フェーズで使用するエネルギーが少なくなることがわかっています (ただし、より頻繁に使用すると、より多くのエネルギーを消費する可能性があります)。 AI モデルの開発には、1 回のトレーニング実行以上のものが必要です。 AI モデルを現実世界で使用するには、更新と再トレーニングが必要になります。

Microsoft が Bing 検索エンジンで GPT-4 を使用する場合、各トレーニング実行は数百万回の検索にわたって償却されますが、ChatGPT パブリック デモの場合のように、知識が 2021 年に終了する検索エンジンでは明らかに不十分であるため、トレーニング データを定期的に更新する必要があります。

Bing のような検索エンジンを AI で強化すると、検索ごとの二酸化炭素排出量が約 5 倍に増加すると推定されています。

こうした懸念はしばらく前から提起されてきました。 2020年12月、AI倫理研究者のティムニット・ゲブル氏は疑問を提起したためGoogleを退職させられた。当時、AI をトレーニングするプロセスによって未知の偏見が導入され、その結果得られるアプリケーションが人種差別的かつ性差別的なものになるという彼女の調査結果に注目が集まりました。しかし業界メディアが報じているように、彼女の辞退につながった論文は、実際にはエネルギー使用を含む他の多くの問題を提起していた。

このエネルギー集約型プロセスを実行することは、気候にリスクをもたらすだけではない、と彼女は述べた。 AI研究は裕福な企業に限定され、一方で貧困地域は気候変動の影響を被ることになる。 「研究者が環境への悪影響や資源への不公平なアクセスを減らすためにエネルギー効率とコストを優先するのは過去のことだ」と論文は述べている。

透明性の必要性

データセンターのエネルギー使用量が制御不能になっているのではないかと人々が懸念していた一方で、研究者らは、ムーアの法則とクラウドコンピューティングの効率性の組み合わせにより、データセンターの効率性が数桁向上し、全体的なエネルギー使用量が制御可能になったことを示すデータを発表しました。

研究者らは、今日のAIのデモや早期導入の急増から結論を導き出すことに対して警告し、専用のAIチップはより効率的であり、AIでのエネルギー使用は他の場所でのエネルギー使用を削減できる可能性があると指摘した。 「人々は個別の逸話から推測して、驚くべき数字を導き出すかもしれないが、その数字はほとんどの場合高すぎる」と彼は警告した。

AI に潜在的な価値があることは明らかですが、コストの透明性がなければ、その価値が本当にコストを上回るかどうかはわかりません。

<<:  製造業における機械学習と人工知能

>>:  人工知能は衛星地図の鮮明度を向上させ、世界の再生可能エネルギープロジェクトや森林被覆率を示す

ブログ    
ブログ    
ブログ    

推薦する

...

知識経済は死んだ! AIが生み出す「直感経済」の新時代!

AI をめぐっては興奮と恐怖が同時に存在しているのは否定できない現実です。一方では、マイクロソフト...

GPT-4はあなたよりも質問をするのが得意です。大きなモデルを繰り返し使用して、人間との対話の障壁を打ち破りましょう。

人工知能の分野における最新の開発では、人工的に生成されたプロンプトの品質が、大規模言語モデル (LL...

EU AI法が規則を承認

欧州連合の人工知能法(AI法)は、政策立案者が画期的な規制のルールをうまく策定したことで、法律化に向...

ヘルスケアにおけるAI導入が難しい理由

私たちはほぼ毎日、人工知能と医療業界におけるその応用に関する最新の記事を読んでおり、医療機関などのク...

...

...

適切な機械学習アルゴリズムを簡単に選択する方法を教えます。

[[327632]] 【51CTO.com クイック翻訳】この質問に対する単純で明確な答えはありま...

一般化の危機! LeCunは質問を公開しました: テストセットとトレーニングセットは決して関連していません

[[431567]]長い間、テスト セットで優れたパフォーマンスを発揮するモデルは、一般化のパフォー...

...

顔認識が再び物議を醸す

人工知能の中で最も議論の多い技術分野といえば、顔認識技術でしょう。 1 つ目は、顔認識の収集方法であ...

...

ヘルスケアにおける IoT と AI

IoT 対応デバイスの登場により、医療における遠隔モニタリングが可能になりました。ほぼすべての大手...

パフォーマンスを犠牲にすることなく、メモリ使用量を90%削減。FacebookがQuant-Noiseモデル圧縮方式を提案

数百メガバイトのサイズのニューラル ネットワークの場合、モデル圧縮によりメモリ使用量、通信帯域幅、計...

日常の問題を自動的に解決する 5 つの AI API

今日の AI テクノロジーを使用して手作業を自動化しましょう。文書の校正、アートの作成、Google...