研究によると、AIシステムは大量のエネルギーを消費する

研究によると、AIシステムは大量のエネルギーを消費する

同研究機関はAIインフラの需要について徹底的な調査を実施し、AIシステムに必要なエネルギーは本格導入前に制御不能なほど拡大していると研究報告書で指摘した。この結論は非常に不安を抱かせるものである。

人工知能技術は新しいものではなく、その背後にあるアイデアは 50 年前、あるいは 70 年前にまで遡ることができます。人工知能システムの能力は前例のないほど爆発的に増大し、多くの投資を受けています。現在、人工知能でできることは飛躍的に増加しており、人工知能システムの開発と運用に使用されるリソースも飛躍的に増加しています。人々はすでに人工知能がもたらす脅威と機会を感じています。

しかし、AI の競争は比較的秘密裏に行われています。世界は ChatGPT や Midjourney のような AI アプリケーションを採用し、その可能性に基づいてビジネス モデル全体を構築していますが、これらのシステムがどのように機能し、財務、社会、環境のコストがどの程度になるかについては、ほとんど理解されていません。

大量のエネルギーの必要性

研究機関は、Microsoft、Google、Nvidiaなどの企業の人工知能設計者にインタビューした。人工知能ハードウェア分野の発展の歴史をまとめました。人工知能の発展は、率直に言って、驚くべきものです。

人工知能の急速な発展には、半導体チップの根本的な革新とまったく新しいネットワーク アーキテクチャが必要です。これは、もともと天気予報や分子モデリングなどのタスク用に構築された国内のスーパーコンピューターの容量を消費し、これまでにない新しい特殊なクラウドシステムを生み出しています。

しかし、テクノロジー企業は、AI業界が地球の資源をどれだけ消費するかについては語っていない。 Google の Bard は社内アプリケーションです。 OpenAI は Microsoft の緊密なパートナーであり、特別に作成された Azure クラウド リソースへの優先的かつプライベートなアクセス権を持っています。

2018 年当時、OpenAI は人工知能に対する人間に優しいアプローチを奨励する非営利の研究組織でした。これは警告のように聞こえます。業界をリードする AI モデルのコンピューティング要件は 3.4 か月ごとに 2 倍になります。 2018年に人工知能AlphaGoが囲碁で人間に勝利したとき、2012年にAIリーダーだった8層ニューラルネットワークのAlexNetの30万倍の計算能力が使われた。

ムーアの法則では、コアプロセッサの計算能力は 2 年ごとに 2 倍になると予測されていました。それは印象的ですが、その期間での増加は 7 倍にしかなりません。いずれにせよ、チップ製造の物理的限界に達すると、ムーアの法則は効力を失うことになるだろう。セバスチャン氏と彼の会社が発見したように、AI リーダーが AI のトレーニングとパフォーマンスを向上させる唯一の方法は、より高エネルギーの専用プロセッサの大規模なコレクションで、より大きなモデルを実行することです。

人工知能システムのエネルギー消費が人々にパニックを引き起こし始めており、一部の業界データは警鐘を鳴らしている。業界メディアの報道によると、昨年のデザインオートメーションカンファレンスで、AMDの最高技術責任者マーク・ペーパーマスター氏は、2050年までに人工知能システムのエネルギー使用量の増加により、世界のエネルギーがすべて消費されると警告した。

これは、10 年以上前にデータ センターのエネルギー使用について行われた予測の再現のように思えますが、実際は誇張された予測であることが判明しました。しかし、人々が心配するのには理由があります。

Google とバークレーの研究者は、GPT-3 の 1 回のトレーニング実行で、サンフランシスコからニューヨークへの往復飛行の約 3 倍の炭素排出量が発生すると推定しています。

一方、人工知能によるエネルギー需要の増加には限界がありません。 Arm の最高技術責任者である Ian Bratt 氏は、ニューラル ネットワークのコンピューティング需要を「飽くなきもの」と表現しています。その理由は、ネットワークが大きくなればなるほど、結果も良くなるという単純な理由からです。 AI レースにどんな犠牲を払ってでも勝たなければならないというプレッシャーがなければ、エネルギーとハードウェアのコストが制限要因になるかもしれません。

AI のエネルギー使用について人々が懸念している兆候は、実際に憂慮すべきものです。

RISCの発明者デビッド・パターソン氏が率いるグーグルとバークレーの科学者チームは、サンフランシスコとニューヨークの間を飛行する旅客機が180トンの二酸化炭素相当を排出すると指摘する論文を発表し、その後、GPT-3のトレーニングによってその約3倍の二酸化炭素が排出されると推定した。ここではどのようなエネルギーミックスが想定されているのかは論文からは明らかではない。

現在、AI は使用される前に限られた数のトレーニングを実行する傾向があり、使用ごとに「推論」フェーズで使用するエネルギーが少なくなることがわかっています (ただし、より頻繁に使用すると、より多くのエネルギーを消費する可能性があります)。 AI モデルの開発には、1 回のトレーニング実行以上のものが必要です。 AI モデルを現実世界で使用するには、更新と再トレーニングが必要になります。

Microsoft が Bing 検索エンジンで GPT-4 を使用する場合、各トレーニング実行は数百万回の検索にわたって償却されますが、ChatGPT パブリック デモの場合のように、知識が 2021 年に終了する検索エンジンでは明らかに不十分であるため、トレーニング データを定期的に更新する必要があります。

Bing のような検索エンジンを AI で強化すると、検索ごとの二酸化炭素排出量が約 5 倍に増加すると推定されています。

こうした懸念はしばらく前から提起されてきました。 2020年12月、AI倫理研究者のティムニット・ゲブル氏は疑問を提起したためGoogleを退職させられた。当時、AI をトレーニングするプロセスによって未知の偏見が導入され、その結果得られるアプリケーションが人種差別的かつ性差別的なものになるという彼女の調査結果に注目が集まりました。しかし業界メディアが報じているように、彼女の辞退につながった論文は、実際にはエネルギー使用を含む他の多くの問題を提起していた。

このエネルギー集約型プロセスを実行することは、気候にリスクをもたらすだけではない、と彼女は述べた。 AI研究は裕福な企業に限定され、一方で貧困地域は気候変動の影響を被ることになる。 「研究者が環境への悪影響や資源への不公平なアクセスを減らすためにエネルギー効率とコストを優先するのは過去のことだ」と論文は述べている。

透明性の必要性

データセンターのエネルギー使用量が制御不能になっているのではないかと人々が懸念していた一方で、研究者らは、ムーアの法則とクラウドコンピューティングの効率性の組み合わせにより、データセンターの効率性が数桁向上し、全体的なエネルギー使用量が制御可能になったことを示すデータを発表しました。

研究者らは、今日のAIのデモや早期導入の急増から結論を導き出すことに対して警告し、専用のAIチップはより効率的であり、AIでのエネルギー使用は他の場所でのエネルギー使用を削減できる可能性があると指摘した。 「人々は個別の逸話から推測して、驚くべき数字を導き出すかもしれないが、その数字はほとんどの場合高すぎる」と彼は警告した。

AI に潜在的な価値があることは明らかですが、コストの透明性がなければ、その価値が本当にコストを上回るかどうかはわかりません。

<<:  製造業における機械学習と人工知能

>>:  人工知能は衛星地図の鮮明度を向上させ、世界の再生可能エネルギープロジェクトや森林被覆率を示す

推薦する

OpenAI CEO: GPT-4 は週当たり 1 億人のアクティブ ユーザーを抱え、依然として世界で最も強力な AI モデルです

米国現地時間11月7日月曜日に開催された第1回OpenAI開発者会議で、同社CEOのサム・アルトマン...

人工知能の導入は、より費用対効果の高い臨床試験の新しい時代を告げるだろう

臨床試験はここ数年で大きく変化しました。医薬品や医療機器、そしてそれらが影響を与える対象となる症状が...

Word2vec の作者が明かす: seq2seq は私のアイデア、GloVe はスキルを盗用、反撃が迫る

NeurIPS 2023の受賞論文が発表され、10年前の単語埋め込み技術word2vecが当然の「T...

脳内の画像を高解像度で復元できるようになりました

近年、画像生成、特にテキストから画像への生成の分野で大きな進歩が遂げられており、アイデアをテキストで...

...

ソフトウェアは世界を飲み込んでいるが、AIはソフトウェアを飲み込んでいる

COVID-19が世界を席巻したとき、人工知能はなぜ大きな空白を埋めることができるのか?教育、セキュ...

機械学習のトレーニングをより安価かつ効率的にする方法

さまざまなタスクに人工知能を導入する企業が増えるにつれ、AI モデルのトレーニングは費用がかかり、困...

好むと好まざるとにかかわらず、AIクラウド運用はやってくる

[51CTO.com クイック翻訳] 私は過去30年間AIに触れてきましたが、AIの能力が過大評価さ...

効率的な多次元空間ポイントインデックスアルゴリズム - Geohash と Google S2

[[201793]]導入毎晩残業して家に帰るときは、Didiやシェア自転車を使うこともあります。ア...

...

いくつかのシンプルな負荷分散アルゴリズム

負荷分散とは負荷分散(英語名は Load Balance)とは、複数のサーバーを対称的に構成したサー...

マルチモーダル大規模モデルの最も包括的なレビューはここにあります!マイクロソフトの研究者7人が5つの主要トピックについて協力し、119ページの文書を公開した。

マルチモーダル大規模モデルの最も包括的なレビューはここにあります!マイクロソフトの中国人研究者7名に...

人工知能やモノのインターネットから仮想現実やブロックチェーンまで、将来の技術進歩の大部分はクラウドで起こるだろう。

今では、ほとんどの企業リーダーがクラウド コンピューティングの価値を理解しています。すでに多くの人が...

ディープラーニングとツリー探索によるゼロからの高速学習と低速学習

[[211446]]この記事では、ロンドン大学ユニバーシティ・カレッジ (UCL) の Thomas...