人工知能（AI）の急速な普及に伴い、AIモデルやデータセットのサイズも急速に大規模化しています。この拡大ペースはハードウェア・システムの性能向上をはるかに上回っており、そのためAIの消費電力はサステナブルなレベルを超えて増大しています。
SEMIのスマートデータ-AIイニシアチブでは、サステナブルなAIシステムという課題を取り上げ、協調によるソリューションを探るため、このほどサステナブルAIシステムのワークショップを開催し、AIエコシステムの全域からの専門家に参加いただきました。講演者には、Applied Materials、AMD、arm、ASE、Google DeepMind、IBM、Intel、Lam Research、McKinsey、Micron、NVIDIA、Qualcomm、SK hynixのほかに、注目されるスタートアップのCerebras、LightMatter、Mentium Technologies、Mueon、また最先端の大学から、スタンフォード大学、カリフォルニア大学デービス校およびアーバイン校が登壇しました。基調講演、パネルディスカッション、活発な参加者とのディスカッションでカバーされたのは、データセンター/クラウド/エッジ向けの新しいデバイス、材料、先端パッケージング、チップレット、フォトニクス、アーキテクチャ/アルゴリズムです。本稿では、ワークショップで得られた洞察の概要を報告します。
AIの必要性
ワークショップは、なぜAIが継続的な進歩と繁栄に不可欠なのか、という基本的な問いかけから始まりました。その答えのひとつが、世界的な人口動態の変化であり、ほとんどの先進国で高齢化が進行している状況です。今世紀初頭には、定年退職者1人を約6人の労働者が支えていましたが、2050年には退職者1人を支えるのはわずか2人の労働者だと予測されています。それと同時に、生産性の伸び率は必要な値の半分にまで低下しています。責任あるサステナブルな方法でAIを継続に発展させることができれば、AIがこのギャップを埋める助けになるのです。
エネルギーの壁
AIの継続的発展を阻む手ごわい壁となるのが、電力需要の増大です。例えば、大規模言語モデル（LLM）が1回の学習サイクルを実行するために、数千世帯分に匹敵する電力を消費する場合があります。深層学習モデルが「Transformer」へ切り替わったことで、AIコンピューティング需要はこの5年間で5,000万倍に増加し、この電力需要は2050年までに世界の発電能力の半分を消費するようになるとの予測もあります。これは明らかにサステナブルではありません！エコシステム内のすべてのプレーヤーがAIの電力消費削減に努めており、業界はすでに過去10年間で、1トークンあたりの計算使用電力を10万分の1に削減しています。しかし、AIはこれを上回る急速な成長をしており、今後の大きな課題を浮き彫りにしています。
システムスタック
このワークショップは、すべてのAIのあらゆる分野においてイノベーションが必要であり、そのための重要な第一歩は対話を開始することであるという仮説のもとに開発されました。極めて著名な講演者の方々によってソリューションのスタック全体がカバーされ、膨大な洞察が共有されました。そのひとつひとつをご紹介することはできませんが、そのさわりを以下に紹介します。
材料とデバイス
半導体チップの製造に使用される材料とデバイス構造が、すべてのコンピューティング・システムのスタックの基礎となります。シリコン基板と銅配線が業界の主流ですが、革新的なアイデアがこれに加わりつつあります。
デバイス構造の微細化が進行するにつれ、MoSe2、WSe2、ZrSe2、NbP などの新しい2次元材料が研究されています。Siの移動度は膜厚の減少とともに低下しますが、2D材料は薄膜基板でも高い電子移動度を維持します。2D材料を積層することで、従来の平面構造よりも消費電力の低い3Dシステムの構築が可能になります。これと並行して、ゲート・オール・アラウンド（GAA）のような新しいトランジスタ構造によっても、最大25%の消費電力削減が可能です。
これらの新しい材料やデバイス構造は複雑で、製造にはまるで魔法のような技術が必要になります。例えば、厚さがわずか1から数個の原子しかない無欠陥薄膜を複数積層したり、直径の100倍の深さの細い穴をエッチングしたりすることが必要な場合もあります。このような構造のチップ製造に成功したのは、半導体業界の驚くべき成果ですが、その難易度は高まり、コストも上昇しています。そのため、ますます複雑化する半導体の製造工程の研究開発や製造を支援するツールとして、現在ではAIが使用されています。半導体チップによって実現したAIアルゴリズムが、今度はチップ製造を手助けするという、相乗的な好循環となっています。
システム統合
スタックの次のレイヤーは、個々のデバイスのシステムへの統合です。チップを相互接続するシリコンやガラスのインターポーザ（2.5D）といった高度なパッケージング技術によって、配線距離と消費電力を削減することができます。このような技術は、AIアルゴリズムを実行するハイパフォーマンス・コンピューティング・システムに多く導入されています。業界はこの先も、マルチダイ3Dパッケージやモノリシック3Dチップの双方において、さらにコンパクトな3Dシステムの検討を積極的に進めています。
何らかの機能に特化した小さなチップを柔軟に組み合わせて、システム性能を最適化するというチップレットのコンセプトは、大きな可能性を秘めています。業界コンソーシアムでは、チップレットの水平および垂直方向でのシームレスな統合を可能にするUniversal Chiplet Interconnect Express™ (UCIe™)などのプロトコルを開発しています。
これらの先進技術によって、より多くの機能がますますコンパクトに詰め込まれると、チップ同士が近接することで電力供給に困難をきたし、高熱を発生するようになります。電力供給と適切な放熱の最適化には、多くの研究が必要です。
従来のエレクトロニクスの先の技術として有望なのが、フォトニクスです。長距離データ通信のほとんどでは光ファイバー・ケーブルが使用されていますから、すでにフォトニックなのですが、これを短距離の配線に採用できれば、帯域幅と性能を拡大しながら消費電力を削減することができます。これにはパッケージングあるいはチップ・レベルでの効率的なフォトニクスとエレクトロニクスの統合が必要であり、この大きな課題にむけた分野横断的なコラボレーションが求められます。
アーキテクチャとアルゴリズム
AIアルゴリズムは、従来型コンピューティングのワークロードと比較して膨大な量のデータ処理を必要とします。これは、これまでのフォン・ノイマン・アーキテクチャの限界を引き延ばす（あるいは打ち破る）ことを意味し、計算サイクルごとにメモリとプロセッサ間で頻繁なデータ移動が必要となります。
最新アーキテクチャのイノベーションの多くは、プロセッサとメモリを近接させることに重点を置いています。システム統合においては、高帯域幅メモリ（HBM）のようなニア・メモリ・コンピューティング・アーキテクチャがすでに推進されています。それ以外にも、コンピュート・イン・メモリ（CIM）と呼ばれる、両者をシングルチップに統合する先進的アーキテクチャがあり、そのメモリ素子には、抵抗変化型RAM（RRAM）、相変化メモリ（PCM）、強誘電体RAM（FeRAM）、磁気RAM（MRAM）が検討されています。しかし、オールマイティなメモリというものは存在せず、レイテンシー、容量、帯域幅、動作あたりの消費電力、製造性などにおいて、それぞれ長所と短所があります。特定のワークロードの電力効率を向上が可能なメモリスタのようなデバイスを研究している研究者もいます。
最終的には、ハードウェアとソフトウェアの協調最適化が極めて重要となります。アルゴリズムが基礎となるシステムとマッチしないと、電力効率が悪くなります。その逆に、協調最適化されたシステムは高効率になります。概念的には当然ですが、それぞれの開発サイクルが全く異なるため、実際には容易ではありません。ソフトウェア・アルゴリズムは数ヶ月で作り変えることができますが、新しいハードウェアの開発には数年を要する場合もあります。冗長性／柔軟性を設計に取り入れる、またハードウェアをアプリケーションに特化させるなど、いくつかの緩和策が考えられますが、この難問の解決には多くの課題が残されています。
前競争領域の協力による解決策の発見
ワークショップの講演者全員が、これらの課題は一企業や縦割りの組織では解決はできるものではなく、業界全域にわたる前競争領域での協力が欠かせないと力説しました。SEMIは3,000社を超える会員を擁するグローバルかつ中立的な組織であり、縦割りの組織を越えた前競争領域の協力基盤を提供するのに適した立場にあります。SEMIは「コネクト、コラボレート、イノベート」を信条として、業界全体の発展に努めています。この目的にむけ、SEMI のスマートデータ-AIイニシアチブでは、この課題に対する活発な議論を推進しています。5月のSEMICON Southeast Asiaにおけるラウンドテーブル会議に続き、10月7～9日に開催されるSEMICON West 2025での技術セッションへと議論を進める計画です。
総合的な目的は、エネルギー効率に優れたAIコンピューティングのためのシステムレベル・ソリューション構築に向けて、議論から実行へと進むことにあります。具体的には、個々のイノベーションを相乗効果により、全体を部分の総和よりも優れたものにするために、前競争領域において何ができるかを特定したいと考えています。共同での概念実証プロジェクト、業界標準、独立したベンチマーキングなどのアイデアがあがっています。 ぜひこの取り組みにご協力ください。お問い合わせは、[email protected]までお願いします。
Pushkar P. Apteは、SEMIの戦略技術顧問であり、スマートデータ-AIイニシアチブをリードしています。
