2019年以降、世界中で1,000を超える倉庫型キャンパスが出現しました。各複合施設は10万平方メートル（約東京ドーム2個）近い面積を占め、小さな町と同等の水と、小さな都市と同等の電力を消費します。これらはAIデータセンターと呼ばれ、ChatGPTのような大規模言語モデル（LLM）を実行およびトレーニングするための施設です。サジャン・サイニ（Sajan Saini）氏が、急速に拡大する AIデータセンターの課題と可能性を探ります。
Why are AI data centers using so much electricity? – Sajan Saini
AIデータセンターは一般的に複数のゾーンに分けられています。ネットワーク・オペレーションセンターは、データトラフィックと電力消費を管理します。変圧器、ガス発電機、バッテリー駆動のバックアップ電源を含む電力システムがあり、電力供給が途切れないようにしています。そして、ミートミールーム（Meet-Me Room）と呼ばれる接続ハブがあり、外部と相互接続（クロスコネクト）するための集中的な専用エリアです。そしてサーバー室があります。
LLMに質問をするとあなたのプロンプトは、これらのサーバー室のいずれかに入ります。現時点でそのモデルがどのように反応するかを検証するのは複雑すぎます。それには膨大な量の計算が必要となり、数千台のサーバーラックに依存しています。それぞれにサーバーボードを収納したトレイが積み重ねられ、高性能プロセッサーやGPU（Graphics Processing Unit）、メモリチップを内蔵したボードは。並列処理によって、毎秒数兆回の数学演算を実行します。
空調管理されたサーバー室であっても、GPUはサーバー基板を溶かすほど高温になることがあります。 そして、これらのチップを接続する銅線は絶えずエネルギーを消費し、より多くの熱を発生させます。チップを冷却するために、熱を吸収して蒸発させる給水塔のように サーバーボードの背面に冷水を配管する、トレイ全体を非導電性の冷却液に浸すなどの新しいアプローチに加えて、非効率な銅線を交換し光を使ってデータを伝送する光ファイバーを用いています。
一部の専門家は集積フォトニクスが データセンターの電力使用量を約50％削減しますが、それでもまだ十分ではないかもしれません。GPUは、およそ電球16個分のエネルギーを消費します。それをデータセンター内のすべてのGPUに掛け合わせると、30万世帯分の電力を賄えるだけのエネルギー量ということです。
企業はさらに高度なAIを追求しており、それは今のところ、ますます大規模なAIを意味しています。効率が向上しても大型モデルは、より大規模なデータセンターとより多くの電力を必要とします。一部の予測では、2028年までに米国のデータセンターだけで、ニューヨーク市8つ分に相当するエネルギーを消費している可能性があるとしています。実際、一部のAI企業はすでに次世代データセンターの設計では、専用の原子力発電所を持つ提案をしています。
現在のLLMはあらゆる質問に答えるように設計されていますが、食洗機の修理にシェイクスピアを知っているモデルは必要ありません。トピック固有の小規模言語モデルでは計算資源と消費電力を大幅に抑えられます。あるいは、未来のLLMは光コンピューティングを採用して、エネルギーコストを大幅に削減できるかもしれません。しかし、AIシステムがどれほど効率的になっても、私たちがAI（人工知能）への欲求をさらに高め続けるならば、結局のところ、これは「技術的な問題」ではなくて「社会的な問題」なのではないでしょうか。より賢い機械を作るために、私たちはどれだけの資源を費やす覚悟があるのでしょうか？
