智慧的能源成本 (The Energy Cost of Intelligence)
950 TWh 的提問 — 矽能讓智慧變得可持續嗎?
🆓 免費文章 · 任何人都可以免費閱讀
序幕:兩端的 Transformer(The Transformer at Both Ends)
在邏輯層次上,現代人工智慧的基本單位是 Transformer。它是在數十億、數兆個浮點參數空間全域計算內積、推導高維向量相似度的注意力(Attention)機制,也是高度平行化的矩陣乘法集合體。
而在物理層次上,阻擋人工智慧基礎設施擴張的現實邊界,同樣也是 Transformer。那就是放在美國維吉尼亞州勞登郡資料中心入口變電站裡、一台 120 噸重的油浸式銅繞組電力變壓器(Power Transformer)。這個裝置把沿著輸電網進來的 $500\text{ kV}$ 超高壓電力,降壓為 $34.5\text{ kV}$ 的配電電壓,引進資料大廳內部。
邏輯抽象與物理實體
========================================================================================
層級 單位名稱 運作機制 物理瓶頸
----------------------------------------------------------------------------------------
軟體 Transformer (Attention) 高維向量矩陣運算 (Dense GEMM) 記憶體頻寬 & I/O 能源
電網 Transformer (變壓器) 基於電磁感應的超高壓降壓 定向性電工鋼 & 繞組交期
========================================================================================
半個世紀以來,電腦科學在「軟體是與重工業物理限制分離的抽象領域」這個假設上成長。摩爾定律與丹納德縮放(Dennard Scaling)提供了明確的工程補償。每 18 個月,電晶體變得更小、更快,單位面積的動態功耗也下降。運算實際上被當作幾乎沒有摩擦的數學資源來處理。
那個時代結束了。運算現在正面撞上了大規模電網、特殊電工鋼供應鏈、矽封裝的熱力學散熱極限,以及次臨界擺幅(Subthreshold Swing)這道量子力學之牆。
人工智慧的登場,把數位運算轉化為以十億瓦(GW)為單位量測的連續熱力學過程。2020 年約 $240\text{ TWh}$ 水準的全球資料中心年度電力消耗量,預計到 2030 年將達到 $950\text{ 至 }1,100\text{ TWh}$。這是超越日本全國年度電力消耗量的規模。在美國境內,資料中心消耗的電力比重,預計到 2030 年將達到整體商業發電量的 $9\%\text{ 至 }17\%$,在特定局部電網中,看來將佔據地區發電容量的 $40\%$ 以上。
既有產業對此的應對,是增建發電廠與輸電網。簽下燃氣渦輪機、為超高壓輸電線路取得許可、與核電廠簽訂長期購電合約(PPA)、建設公用事業級太陽光電與電池儲能系統(BESS)。
但以供給為中心的視角,漏掉了一個重要變數。那就是矽晶片把原始電力轉換為經濟上有用之智慧的效率。
如果半導體工程能在每焦耳(Joule)生成的 token 數上,提供數個數量級的效率改善,AI 時代的物理基礎設施負擔能否緩解?還是說,在運算的世界裡,傑文斯悖論(Jevons Paradox)也會運作,每當單位運算成本下降,以幾何級數暴增的需求反而會把總電力消耗拉高?
要回答這個問題,不能把人工智慧看成虛擬軟體或單純的不動產設施。必須把它分析為一個單一的物理連續體:從 $3\text{nm}$ 邏輯閘與中介層配線以皮焦耳(pJ)為單位的能量消耗,到極紫外光(EUV)晶圓廠與先進封裝產線的設備投資、大型變壓器與電網併網佇列。
I. 巨觀物理包絡:擴張的量化
要評估 AI 基礎設施的軌跡,必須先嚴格區分產業與媒體混用的電力單位。
資料中心電力指標層級結構
========================================================================================
指標 單位 工程定義與物理意義
----------------------------------------------------------------------------------------
名目容量 (Nameplate) MVA / MW 變壓器、斷路器、緊急發電機等設備的公認額定上限
設施峰值負載 (Facility) MW 以受電點 (Utility Demarcation) 為準的最大瞬間受電電力
IT 有效負載 (IT Load) MW 伺服器機箱內運算/記憶體/網路矽晶片消耗的純電力
平均運轉電力 (Average) MW 反映稼動率與功率封頂的時間序列平均 (峰值 x 設施利用率)
年度電力消耗量 (Annual) TWh / year 設施電力在一年 8,760 小時內消耗的累積能量
========================================================================================
名目容量是規定設備開關裝置極限的靜態硬體上限,與實際運轉電力不同。供應給伺服器矽晶片的純 IT 負載,也與設施整體負載不同。在受電點量測的整體負載,包括不斷電系統(UPS)與配電設備(PDU)的損失,以及為了把晶片產生的熱排放到大氣中,冰水主機(Chiller)、泵浦、冷卻塔的機械消耗電力。
整體設施電力與純 IT 電力之比,就是電力使用效率(PUE):$$\text{PUE} = \frac{P_{\text{facility}}}{P_{\text{IT}}}$$現代超大規模設施的 PUE,已經從過去的 $1.8\sim 2.0$ 降到 $1.10\sim 1.18$ 水準。但 PUE 對於機櫃內部的運算矽晶片把電力用得有多有用,什麼也說明不了。
全球資料中心電力消耗軌跡 (2020–2035)
========================================================================================
年度 總資料中心電力 AI 加速電力比重 全球電力占比 主導機櫃電力密度
----------------------------------------------------------------------------------------
2020 240–280 TWh ~10–15 TWh ~1.1% 5–8 kW / rack
2024 460 TWh ~60–75 TWh ~1.7% 30–40 kW / rack
2026 540 TWh ~110–130 TWh ~2.0% 100–130 kW / rack
2030 950–1,100 TWh ~450–550 TWh ~3.0–3.5% 150–250 kW / rack
2035 1,800–2,400 TWh ~1,100–1,500 TWh ~5.0–6.5% 300+ kW / rack
========================================================================================
來源: IEA, Goldman Sachs Research, EPRI, McKinsey 分析彙整。
[圖 1 — 全球資料中心電力消耗軌跡,2020-2035](顯示傳統企業/雲端工作負載與加速運算負載的分歧趨勢,並標示 2030 年資料中心電力中 AI 佔有率超過 50% 的轉折點)
從通用 CPU 轉向平行加速器(GPU 及領域特化 ASIC),使資料中心擴建與過去以不動產佔地面積(Square Footage)為中心的模式脫鉤。2010 年到 2020 年之間,全球資料中心運算執行個體增加了約 $550\%$,但年度電力消耗卻停滯在約 $200\text{ 至 }250\text{ TWh}$ 水準。這是因為效率低落的本地企業機房被整合進大規模雲端超大規模業者,而且多核心虛擬化技術回收了閒置資源。
這兩個結構性緩衝裝置已經耗盡。超大規模整合在結構上已進入完成階段,物理電晶體縮放也撞上了熱與電壓壁壘。
其結果是機櫃單位電力密度急劇攀升。2018 年標準企業機櫃消耗 $4\sim 8\text{ kW}$。2022 年高密度雲端機櫃消耗 $15\sim 20\text{ kW}$。以氣冷為基礎的 8-GPU NVIDIA H100 機箱把它拉高到 $35\sim 40\text{ kW}$。
到了 2026 年成為標準的 NVIDIA GB200 NVL72 平台,單一 $48\text{U}$ 機櫃的電力密度達到 $120\text{ 至 }132\text{ kW}$。這是把一般獨棟住宅 65 戶使用的最大電力,集中在一個家用冰箱大小空間裡的密度。
冷卻架構轉換極限線
========================================================================================
機櫃電力密度 主導冷卻技術架構 物理極限因素
----------------------------------------------------------------------------------------
< 15 kW / rack 外圍 CRAC / 冷通道封閉 (CAC) 體積空氣流量極限
15–35 kW / rack 機櫃內熱交換器 (CRAH) + 後門熱交換器 (RDHx) 風扇 (Fan) 寄生電力的線性暴增
35–100 kW / rack 直接液冷 (冷板, 水-乙二醇) 矽表面熱通量 (W/cm²)
> 100–250+ kW / rack 設施整體完全液冷迴路 (CDU 連結) 接面最高溫度 (Tj max) 超過
========================================================================================
[圖 2 — 機櫃電力密度急增與冷卻技術的物理極限線](描繪機櫃密度從 2 kW 增加到 250 kW 時,氣冷的物理極限點(~35–40 kW)與被迫轉換到晶片直接液冷(Direct-to-Chip Liquid Cooling)的區間)
在這種密度下,傳統的強制氣冷對流不再成立。要只用空氣排出 $130\text{ kW}$ 的熱,送風風扇的體積流量必須極端地大,風扇本身的寄生電力消耗將超過整體伺服器電力的 $20\%$。
其結果是,把微通道冷板貼在晶片表面、循環冷卻水的直接液冷(Direct-to-Chip Liquid Cooling)體系,轉變為必需規格。這意味著全球 $85\%$ 以上的舊型氣冷資料中心,物理上無法容納高效能 AI 叢集。
負載的地理集中也放大了電網的不穩定。美國維吉尼亞北部的 PJM 電網中,資料中心消耗了全州約 $25\%$ 的電力。根據 Dominion Energy 與 EPRI 的電網併網申請資料,這個比重預計到 2030 年將達到 $39\%\text{ 至 }57\%$。在德州 ERCOT 電網,資料中心電網併網等待量也突破了 $30\text{ GW}$,在印第安納、愛荷華、亞利桑那等 7 個州,資料中心的電力佔有率也被觀察到將超過全州負載的 $20\%$。
[圖 3 — 主要電力樞紐內資料中心負載佔有率展望 (2025 vs 2030)](比較 PJM 維吉尼亞、ERCOT 德州、亞利桑那等主要電力控制區域的資料中心負載比重佔整體電網 20~50% 的地區性過密現象)
同時,負載的動態特性與過去完全不同。既有的雲端工作負載配合人類的工作週期緩慢變動。大規模語言模型(LLM)預訓練則具有維持 $85\%\text{ 至 }95\%$ 設施利用率(Capacity Factor)的平坦基載(Baseload)特性。
相對地,在分散式推理環境中,當數十萬個張量核心從閒置狀態同時進入投機執行(Speculative Execution)時,會在次秒(Sub-second)單位內發生 $50\%$ 以上的急劇負載變動($di/dt$)。這種急劇的電流步階會在配電變壓器與開關裝置上引起電壓驟降(Voltage Sag)與諧波失真,威脅局部變電站的穩定性。
II. 電網瓶頸與發電來源組合的現實
隨著 2030 年全球資料中心電力消耗量接近 $1,000\text{ TWh}$,基礎設施擴張的主要瓶頸,已從資料大廳內部移動到高壓輸電網與發電基礎設施。
美國輸電網電網併網佇列 (Interconnection Queue) 現況 (2026)
========================================================================================
指標 數值 / 狀態 工程 / 經濟意義
----------------------------------------------------------------------------------------
電網併網等待中的總發電容量 2,061 GW 目前美國整體運轉中發電設備容量的約 1.6 倍
等待專案中潔淨電源比重 > 92% 太陽光電 (773 GW)、儲能 (749 GW)、風力依序
歷史實際完工率 (2000–2020) 13.0% 在被通知分攤電網補強費用後,76% 自行撤回
從申請到商業運轉所需期間 61 個月 (5.1 年) 相比 2008 年 (22 個月) 延遲 2.8 倍
========================================================================================
來源: Lawrence Berkeley National Laboratory (LBNL), "Queued Up" (2026)。
[圖 4 — 電網併網等待佇列容量與歷史完工率的落差](顯示超過 2,000 GW 的等待容量中,實際進入商業運轉的比例僅 13%,證明帳面潔淨電力管線的虛數)
根據 LBNL 的分析,美國境內申請輸電網併網、正在等待的發電與儲能設備容量超過 $2,000\text{ GW}$,其中 $90\%$ 以上是太陽光電、風力與電池。但在 2000 年到 2020 年之間進入佇列的專案中,實際達到商業運轉的比例只有 $13\%$。大多數專案在被通知需分攤高達數千億韓元的輸電網升級費用後,撤回了事業。從申請到通電的時間,也從 2008 年的 22 個月拉長到目前的 61 個月(5.1 年)。
即使縮短許可程序,物理電氣設備的製造交期仍然限制供給。核心設備是大型電力變壓器(LPT)與發電機升壓變壓器(GSU)。
主要輸配電器材採購交期比較 (以美國市場為準)
========================================================================================
器材分類 2019 年基準交期 2026 年目前交期
----------------------------------------------------------------------------------------
柱上及墊裝式配電變壓器 12–16 週 80–110 週
發電機升壓變壓器 (GSU) 40–52 週 140–165 週 (約 3.2 年)
超高壓大型變壓器 (LPT, 345kV+) 50–65 週 160–210 週 (最長 4 年)
超高壓電容套管 (Bushings) 16–20 週 120–140 週
超高壓氣體絕緣開關設備 (GIS) 24–30 週 80–100 週
========================================================================================
來源: U.S. Department of Energy (DOE), NREL TP-5700-96742, Wood Mackenzie。
[圖 5 — 核心電網器材採購交期變化 (2019 vs 2026)](顯示超高壓變壓器、套管、GIS 開關設備的交期增加 3~4 倍的供應鏈瓶頸,說明新建電網在短期內不可能)
$345\text{ kV}$ 以上的大型變壓器不是規格化的量產品。它是配合設置地區電網特性訂製的重電機設備,重量達 100~400 噸。2026 年目前超高壓變壓器的採購交期是 $140\text{ 至 }165\text{ 週}$(3 年以上),特殊規格甚至超過 4 年。
這是因為核心原材料定向性電工鋼(GOES)的製造工藝非常困難。為了把導磁率最大化而將晶粒方向一致排列的高溫二次再結晶軋製技術,全世界只有少數鋼鐵廠擁有(韓國、日本、中國、美國各少數產線)。把變壓器內部導體引出到外部的高壓陶瓷套管的交期,也超過 130 週。
在新建輸電線路平均需要 8~12 年的環境下,超大規模業者正把電力技術按功能分解來運用。
- 電池把能量在時間上移動:鋰離子 BESS 不是發電設備,而是時間序列套利工具。它能把日間太陽光電的剩餘電力移到夜間尖峰,但為了運轉基載 AI 訓練設施、只用電池來緩衝因應陰天所需的 $12\sim 24\text{ 小時}$ 電力量,因成本天文數字而無法成立。
- 輸電網把能量在空間上移動:採用碳纖維複合芯線的先進架空線重新架線(Advanced Reconductoring),是能在維持既有鐵塔的同時,把輸電容量提高近 2 倍的現實替代方案。超高壓直流輸電(HVDC)是減少長距離輸電損失、連接外圍風力園區與都市資料中心的手段,但它同樣面臨 AC/DC 變電站器材不足的問題。
- 再生能源便宜但具有變動性:太陽光電與風力的均化發電成本(LCOE)低,但受利用率限制(太陽光電 $20\sim 28\%$、風力 $35\sim 45\%$),要支撐 $1\text{ GW}$ 的連續負載,名目上需要 $4\sim 5\text{ GW}$ 規模的再生能源設備與大規模輔助備用電源。
- 核能提供無碳基載:微軟的三哩島 1 號機重啟合約($835\text{ MW}$、20 年 PPA)與亞馬遜的薩斯奎哈納核電廠直連園區($960\text{ MW}$)建設嘗試,都是為了確保無碳基載的行動。但電表後端(Behind-The-Meter, BTM)直連模式,因從電網抽走公共基載而增加一般消費者的輸電網分攤金,正面臨監管(FERC)摩擦。小型模組化反應爐(SMR)則因監管核准、HALEU(高純度低濃縮鈾)燃料供應鏈、首台機組(FOAK)建設延遲,在 2032 年之前的大規模商業化將受到限制。
- 天然氣能快速出力,但會把碳鎖定下來:隨著變電站連接等待變長,在資料中心用地內導入自用發電的簡單循環燃氣渦輪機(SCGT,設置 18~24 個月)及複合循環渦輪機(CCGT,36~48 個月)的案例正在增加。IEA 估計,到 2030 年,全球資料中心現場將新設置 $15\sim 27\text{ GW}$ 的專用燃氣渦輪機。天然氣是繞過電網瓶頸的現實手段,但它會把將運轉數十年的化石燃料基礎設施鎖定下來,與超大規模業者的淨零目標衝突。
III. 半導體需求量:把 1 GW 基礎設施換算為矽晶圓
把電網的十億瓦單位,換算到矽晶圓與封裝的觀點來看。要建設一座具有連續 $1\text{ GW}$ IT 有效負載的 AI 資料中心,物理上要投入多少矽、先進封裝與 HBM 晶圓?以 2026 年為準的超大規模標準平台 NVIDIA GB200 NVL72 為基準,進行第一原理(First-Principles)計算。
1 GW AI 資料中心的矽分解管線
========================================================================================
1,000 MW IT 連續負載
│
├── 8,000 個 NVL72 液冷機櫃 (@ 每機櫃連續消耗 125 kW)
│ ├── 576,000 個 Blackwell B200 加速器 (1,152,000 個邏輯晶粒)
│ ├── 288,000 個 Grace ARM Neoverse V2 CPU
│ └── 144,000 個 NVSwitch 5 ASIC + 576,000 個網路介面
│
├── 300mm 矽晶圓投入量計算
│ ├── 24,000 片: 先進邏輯晶圓 (TSMC 4NP, ~800 mm² 晶粒, 75% 良率)
│ ├── 65,800 片: 先進 DRAM 晶圓 (1b/1c-nm, 用於生產 1.1 Exabyte HBM3e)
│ └── 41,100 片: 先進封裝中介層晶圓 (TSMC CoWoS-L)
│
└── 4 年內含能源 vs 運轉能源比例
├── 晶圓廠製造內含能源: ~0.65 TWh (整體生命週期的 1.9%)
└── 4 年累積運轉電力: ~34.25 TWh (整體生命週期的 98.1%)
========================================================================================
[圖 6 — 桑基圖:從 1 GW 資料中心電力容量到矽晶圓需求量的轉移](定量追蹤 1,000 MW 受電容量如何轉換為機櫃、機箱、加速器矽晶粒、HBM3e DRAM、CoWoS 中介層晶圓的數量)
1. 機櫃及處理器硬體體積
- GB200 NVL72 單一機櫃:搭載 B200 GPU 72 個、Grace CPU 36 個、NVSwitch 托盤 9 個(ASIC 18 個)。
- 高密度矩陣運算運轉時,單一機櫃的連續 IT 負載:$\approx 125\text{ kW}$(峰值 $132\text{ kW}$)。
- 填滿 $1\text{ GW}$($1,000,000\text{ kW}$)所需的機櫃數:$$N_{\text{rack}} = \frac{1,000,000\text{ kW}}{125\text{ kW/rack}} = \mathbf{8,000\text{ Racks}}$$
- 投入的主動半導體元件總數:
- Blackwell B200 GPU:$8,000 \times 72 = \mathbf{576,000\text{ 個}}$
- Grace CPU:$8,000 \times 36 = \mathbf{288,000\text{ 個}}$
- NVSwitch 5 ASIC:$8,000 \times 18 = \mathbf{144,000\text{ 個}}$
2. 先進邏輯晶圓需求量 (TSMC 4NP)
B200 不是單一矽晶粒。它由以 $10\text{ TB/s}$ 雙向介面結合的 2 個對稱晶粒構成。
- 晶粒大小 ($A_{\text{die}}$):每個約 $800\text{ mm}^2$(接近光微影光學光罩極限 $858\text{ mm}^2$)。
- 邏輯晶粒總數:$576,000 \times 2 = 1,152,000\text{ 個}$。
- 每片 300mm 晶圓的總晶粒數 ($DPW$):$$DPW = \frac{\pi (d/2)^2}{A_{\text{die}}} - \frac{\pi d}{\sqrt{2 A_{\text{die}}}} = \frac{70,685}{800} - \frac{300\pi}{\sqrt{1,600}} \approx 88.35 - 23.56 = 64.79 \rightarrow \mathbf{64\text{ dies/wafer}}$$
- 晶圓良率 ($Y$):以缺陷密度 $D_0 \approx 0.07\text{ defects/cm}^2$ 為準、套用墨菲(Murphy)良率模型時,$800\text{ mm}^2$ 面積的成熟節點晶粒良率約為 $75\%$。
- 每片晶圓的有效良品晶粒數:$64 \times 0.75 \approx 48\text{ dies/wafer}$。
- B200 純邏輯晶圓投入量:$$W_{\text{B200}} = \frac{1,152,000}{48} = \mathbf{24,000\text{ 片 (300mm)}}$$
把 Grace CPU($320\text{ mm}^2$)約 2,000 片與 NVSwitch($500\text{ mm}^2$)約 1,700 片加總,最先進邏輯晶圓需求量達到約 27,700 片。
3. 高頻寬記憶體 (HBM3e) DRAM 晶圓需求量
每個 B200 GPU 使用 8 個 $24\text{ GB}$ HBM3e 堆疊($192\text{ GB}$,頻寬 $8\text{ TB/s}$)。
- $1\text{ GW}$ 資料中心整體 HBM 容量:$$576,000\text{ 個} \times 192\text{ GB} = \mathbf{110,592,000\text{ GB}} = \mathbf{1.106\text{ Exabytes}}$$
- 單體 DRAM 結構:每個 $24\text{ GB}$ 堆疊,是以 1b/1c-nm 製程為基礎的 24Gb(3GB)DRAM 晶粒 8 個垂直堆疊的結構(8-Hi)。
- 所需的純 DRAM 晶粒總數:$$576,000 \times 8\text{ stacks} \times 8\text{ dies} = \mathbf{36,864,000\text{ 個}}$$
- DRAM 晶粒大小與每片晶圓產量:包含 TSV 陣列的 24Gb 晶粒面積 $\approx 65\text{ mm}^2$。每片晶圓理論上的總晶粒數約 850 個。
- 堆疊複合良率 (Compound Stacking Yield):反映晶圓薄化($30\sim 40\text{ }\mu\text{m}$ 研磨)、貫穿電極(TSV)蝕刻、8 層熱壓微凸塊接合損失的複合良率:$$Y_{\text{stack}} = (Y_{\text{die}})^8 \times (Y_{\text{bond}})^7 \approx \mathbf{66\%}$$
- 每片晶圓的良品換算晶粒數:$850 \times 0.66 \approx 560\text{ dies/wafer}$。
- HBM3e 用 DRAM 晶圓需求量:$$W_{\text{DRAM}} = \frac{36,864,000}{560} \approx \mathbf{65,800\text{ 片 (300mm)}}$$
[圖 7 — 記憶體晶圓面積侵蝕比較:HBM3e vs. 通用 DDR5](比較製造 1GB 容量所投入的矽晶圓面積,闡明由於 TSV 禁置區與堆疊良率損失,HBM 相比標準 DDR5 消耗 3 倍的晶圓面積)
1 GW AI 工廠矽材料清單 (BOM) 摘要
========================================================================================
區分 晶粒面積 每片晶圓總晶粒 (DPW) 製程節點 有效良率 總晶圓投入量
----------------------------------------------------------------------------------------
B200 邏輯晶粒 ~800 mm² 64 TSMC 4NP 75% 24,000 片
Grace CPU ~320 mm² 178 TSMC 4NP 82% 2,000 片
NVSwitch 5 ~500 mm² 110 TSMC 4NP 78% 1,700 片
HBM3e DRAM (24Gb) ~65 mm² 850 1b/1c-nm DRAM 66%* 65,800 片
CoWoS-L 中介層 ~2,800 mm² 18 封裝中介層 85% 41,100 片
========================================================================================
*反映 8 層 DRAM 晶粒垂直堆疊及 TSV 接合複合良率。
DRAM 晶圓投入量($65,800$ 片)達到最先進邏輯晶圓投入量($27,700$ 片)的約 2.4 倍。製造 $1\text{ GB}$ 的 HBM,消耗的矽面積約為一般通用 DDR5 的 3 倍。AI 加速器需求的急增,大規模佔據了 SK 海力士、三星電子、美光最新晶圓廠的無塵室,對整個記憶體供應鏈產生直接的連鎖效應。
4. 先進封裝中介層需求量 (CoWoS-L)
2 個 B200 晶粒與 8 個 HBM3e 堆疊,被安裝在約為光學光罩面積 3.3 倍($\approx 2,800\text{ mm}^2$)的矽中介層上。
一片 300mm 晶圓可生產的中介層約 18 個。
假設封裝整合良率 $85\%$,為了封裝 576,000 個 GPU,需要約 41,100 片封裝專用晶圓。
結論是,建設 $1\text{ GW}$ 規模的 AI 設施,意味著完全吸收全球頂尖先進晶圓代工與記憶體產線數個月的生產能力。
IV. 晶圓廠的悖論:先進矽的內含足跡
如果投入如此大規模的矽,就會提出另一個疑問。在加速器執行任何一次推理運算之前,晶片製造過程中消耗的電力、用水與溫室氣體,在整個生命週期中佔多大的比重?
從 $28\text{nm}$ 平面電晶體演進到 $3\text{nm}$ 及 $2\text{nm}$ 環繞閘極(GAA)奈米片,單位矽面積的能源與碳密集度以非線性方式增加。
依製程節點的每片 300mm 晶圓製造投入資源量比較
========================================================================================
製程節點 (TSMC 基準) 曝光設備構成 電力消耗量 (kWh/片) 超純水 (UPW) 使用量 內含碳排放
(Liters/片) (kg CO2e/cm²)
----------------------------------------------------------------------------------------
28nm (Planar) 深紫外光 (DUVi) 單獨 520 kWh 7,200 L 0.18
16nm (FinFET) DUVi 多重圖案化 890 kWh 9,500 L 0.26
7nm (N7) DUVi + 極少數 EUV 1,350 kWh 12,400 L 0.38
5nm (N5) EUV 10–14 個層 2,050 kWh 15,800 L 0.54
3nm (N3E) EUV 20–25 個層 2,950 kWh 19,200 L 0.72
2nm (N2 GAA) EUV 25–30 個層以上 3,800 kWh 23,500 L 0.91
========================================================================================
來源: imec netzero 建模資料, TSMC ESG 報告, 半導體製造商環境揭露彙整。
[圖 8 — 半導體製程節點微縮帶來的每片晶圓電力消耗急增趨勢](把從 28nm 的 520 kWh 到 2nm 的 3,800 kWh,隨節點轉換晶圓加工電力飆升 7 倍以上的過程,與 EUV 曝光層數增加連結起來分析)
單位面積環境足跡急增的原因,在於微製程的複雜性:
- 極紫外光 (EUV) 微影電力:$3\text{nm}$ 製程(TSMC N3E)中,每片晶圓適用 20~25 次 EUV 曝光製程。ASML 的 $0.33\text{ NA}$ EUV 設備(NXE:3600D/3800E)一台連續消耗 $1.1\text{ 至 }1.4\text{ MW}$ 的電力。EUV 機制的能量轉換效率極低。在真空腔體內,以高功率脈衝 $\text{CO}_2$ 雷射照射每秒掉落 5 萬次的微小錫(Sn)液滴形成電漿,生成 $13.5\text{ nm}$ 波長的光。雷射輸入能量中,實際進入集光光學系統的帶內 EUV 光子能量不到 $5\%$。其餘 $95\%$ 以上以熱的形式放出,必須以大規模冰水主機與低溫冷卻設備冷卻。運轉 20 台 EUV 的大型晶圓廠,光是曝光設備運轉就消耗 $25\text{ MW}$ 以上的電力。
- 超潔淨無塵室空調 (HVAC):為了維持 ISO Class 1 水準的環境,超大型空調機透過風扇過濾單元(FFU)循環數百萬立方英尺的空氣。溫度必須精密控制在 $\pm 0.1^\circ\text{C}$、濕度在 $\pm 1\%$ 以內,空調電力佔晶圓廠整體電力的 $25\sim 30\%$。
- 真空泵浦與殘餘氣體控制:為了維持蝕刻(Etch)與化學氣相沉積(CVD)製程腔體的真空度,數千台乾式真空泵浦 24 小時運轉,為了分解有毒氣體與全球暖化氣體,高溫電漿洗滌器也常時運轉。
由於這些特性,半導體製造商被列為主要電力消耗者:
- TSMC(台灣):2024 年年度電力消耗量為 $25.55\text{ TWh}$,佔台灣全國電力消耗的約 $9\%$。隨著 $3\text{nm}$ 及 $2\text{nm}$ 運轉擴大,預計到 2028 年左右將達到台灣整體電力的 $12\sim 15\%$。
- 三星電子(半導體/DS 部門):平澤、器興、華城與美國奧斯汀晶圓廠合計的年度電力消耗量,以 2024 年為準超過 $28\text{ TWh}$。
- SK 海力士:2024 年消耗了約 $10.8\text{ TWh}$,今後龍仁半導體聚落完全運轉時,將額外需要 $9\sim 15\text{ GW}$ 的大規模輸電電力。
含氟溫室氣體 (F-GHG) 排放
除了電力消耗,用於蝕刻與腔體清洗的氟系溫室氣體也是主要排放源。$\text{CF}_4, \text{C}_4\text{F}_8, \text{SF}_6, \text{NF}_3$ 的 100 年全球暖化潛勢($GWP_{100}$)達到 $\text{CO}_2$ 的 $6,500\text{ 至 }23,500\text{ 倍}$。最新燃燒/電漿洗滌器的削減效率(DRE)達到 $95\sim 98\%$,但微量排放到大氣中的殘留氣體,佔製造商 Scope 1 溫室氣體排放量的大部分。
📩 在持續關注這個主題嗎?
財報·報告·HBM供需的後續分析,每天10:30(KST)寄到您的信箱。 免費訂閱 →
生命週期觀點的比較:製造內含能源 vs 運轉能源
那麼,投入 $1\text{ GW}$ 資料中心的矽的製造內含能源,與 4 年的運轉能源相比,是什麼水準?以先前 $1\text{ GW}$ NVL72 模型的晶圓投入量為基礎,加總晶圓廠製程電力:
- 邏輯晶圓:$24,000\text{ 片} \times 2,200\text{ kWh} = 52.8\text{ GWh}$
- DRAM 晶圓:$65,800\text{ 片} \times 1,200\text{ kWh} = 78.96\text{ GWh}$
- 中介層晶圓:$41,100\text{ 片} \times 600\text{ kWh} = 24.66\text{ GWh}$
- 純晶圓廠加工製程電力合計:$\approx 0.156\text{ TWh}$。
考慮晶錠生長(柴可拉斯基拉晶製程)、原材料化學物質精製、ABF 基板加工、封裝測試與伺服器機箱組裝等二次能源,套用 $3.5\sim 4.0$ 倍的係數後,搭載在 $1\text{ GW}$ 設施的整體矽與模組的內含電氣能源,約為 $0.55\text{ 至 }0.75\text{ TWh}$ 水準。
相對地,這座 $1\text{ GW}$ 資料中心在 4 年折舊生命週期內,以設施利用率 $85\%$、PUE $1.15$ 運轉時消耗的純運轉電力量如下:$$\mathcal{E}_{\text{ops}} = 1,000\text{ MW} \times 1.15 \times 0.85 \times (8,760\text{ 小時/年} \times 4\text{ 年}) = \mathbf{34,251,600\text{ MWh}} \approx \mathbf{34.25\text{ TWh}}$$把兩個數值比較,可以導出以下比例:$$\text{內含製造電力的比重} = \frac{0.65\text{ TWh}}{34.25\text{ TWh}} \approx \mathbf{1.90\%}$$
[圖 9 — AI 基礎設施 4 年生命週期累積能源:製造內含能源 vs. 實際運轉消耗電力](對比在 AI 加速器基礎設施中,投入半導體製造的能源不到整體生命週期電力的 2%,98% 以上在機櫃運轉階段消耗)
以消費用智慧型手機或筆記型電腦來說,裝置閒置的時間長,製造內含碳的比重達到 $70\sim 80\%$。
但在 24 小時運轉的高密度 AI 基礎設施中,比例正好相反。整體生命週期能源的 $98\%$ 以上,都是在實際運轉階段消耗。
因此,除了晶圓廠的環保化與超純水回收利用之外,控制基礎設施環境影響的核心變數,在於機櫃內部矽晶片的運轉效率改善。
V. 微架構與半導體物理設計的極限
那麼,在運轉中的晶片內部,為什麼電力會以難以控制的水準消耗?過去的電腦科學把算術運算(Math)當作昂貴的資源,把資料傳輸(Movement)當作附帶的過程。但在先進固態電路中,這個關係已完全逆轉。
3nm / 5nm 製程基準,依運算及資料移動動作的能量消耗量 (Horowitz Benchmark)
========================================================================================
運算及傳輸動作分類 資料格式及傳輸距離 能量消耗量 (Joule / Op)
----------------------------------------------------------------------------------------
算術: 張量核心 MAC 運算 INT4 ~0.03 pJ
算術: 張量核心 MAC 運算 FP8 (E4M3 / E5M2) ~0.15 pJ
算術: 張量核心 MAC 運算 BF16 / FP16 ~0.65 pJ
算術: 標準 IEEE MAC 運算 FP32 ~3.10 pJ
記憶體: 片上 SRAM 讀取 32-bit 字 (1mm 距離移動) ~0.40 pJ
記憶體: 中介層配線傳輸 (CoWoS) 32-bit 字 (10mm 金屬線) ~2.20 pJ
記憶體: HBM3e 離片讀取/寫入 32-bit 字 (PHY 介面) ~128.00 pJ
網路: 標準 PCIe Gen5 通道 32-bit 字 (PCB 板走線)~280.00 pJ
光學: 矽光子 I/O 32-bit 字 (含 E-O-E 轉換) ~450.00 pJ
========================================================================================
來源: Mark Horowitz (Stanford/ISSCC), Bill Dally (NVIDIA Research), IEEE 彙整。
[圖 10 — 運算 vs. 資料移動能量消耗落差](以對數尺度標示從 INT4 運算的 0.03 pJ 到 HBM3e 資料讀取的 128 pJ,資料移動所消耗的能量是純算術運算的數百到數千倍)
在 $3\text{nm}$ 節點,執行一次 8 位元浮點乘加(FP8 MAC)運算所消耗的能量,只有約 $0.15\text{ pJ}$($1.5 \times 10^{-13}\text{ J}$)。
相對地,把相同的 32 位元運算元從相鄰的 HBM3e 堆疊讀取、經過矽中介層配線帶到暫存器,需要約 $128\text{ pJ}$($1.28 \times 10^{-10}\text{ J}$)。
讀取與傳遞資料的成本,比計算的成本貴約 850 倍。
這個現象決定了生成式 AI 推理的熱力學行為。LLM 的執行明確分為兩個階段:
- 預填充階段 (Prefill / Prompt Processing):平行運算密集。把輸入的提示 token 一次綁成矩陣運算,因此算術強度(Arithmetic Intensity,每傳輸 1 位元組記憶體所執行的浮點運算數)非常高($\gg 100\text{ FLOP/Byte}$)。晶片進入運算受限(Compute-Bound)狀態,張量核心的稼動率(MFU)達到 $45\%\text{ 至 }60\%$。
- 解碼階段 (Decode / Token Generation):依序且自迴歸(Autoregressive)。為了預測下一個單字 1 個,必須考慮之前生成的所有 token 的關係,因此每生成單一 token 時,都必須把整個模型參數(數千億個權重)從 HBM 讀進運算核心。當批次大小小,實效算術強度會掉到谷底:$$\text{算術強度} \approx 1\text{ FLOP/Byte}$$即使是具有每秒 2,000 TFLOPS 運算能力與 $8\text{ TB/s}$ 記憶體頻寬的加速器,如果算術強度是 $1\text{ FLOP/Byte}$,實效運算效能就被限制在 8 TFLOPS。$95\%$ 以上的運算電路都閒置(Idle)著,等待資料從記憶體匯流排到達。其結果是,在互動式推理環境中,AI 加速器比起「電腦」,更像是高功率記憶體泵浦在運作。從封裝放出的熱的主要原因不是運算電晶體,而是對 PHY 介面、SerDes、中介層配線的寄生電容充放電的能量。
物理設計 (Physical Design) 觀點的 CMOS 縮放極限
半導體工程過去以兩個古典原理為基礎,控制電力消耗。現在這兩個原理都已達到極限。
古典縮放法則的極限
========================================================================================
原理 過去的運作方式 (2005 年以前) 2026 年目前的物理壁壘
----------------------------------------------------------------------------------------
丹納德縮放 電晶體尺寸縮小時電容減少; 次臨界擺幅固定在 60 mV/dec;
單位面積電力密度維持一定。 Vdd 電壓無法降到 0.7V 以下。
互連縮放 相對閘極延遲,金属配線電阻可忽略; 配線線寬 15nm 以下;
隨元件微縮整體延遲成比例減少。 配線本身的 RC 延遲壓倒閘極延遲。
========================================================================================
數位 CMOS 邏輯電路的總電力消耗,以標準電力方程式描述:$$P_{\text{total}} = P_{\text{dynamic}} + P_{\text{static}} = \left( \alpha C_{\text{eff}} V_{\text{dd}}^2 f \right) + \left( I_{\text{leak}} V_{\text{dd}} \right)$$這裡 $\alpha$ 是切換活動係數,$C_{\text{eff}}$ 是有效負載電容,$V_{\text{dd}}$ 是供應電壓,$f$ 是運作頻率,$I_{\text{leak}}$ 是漏電流。
過去在丹納德縮放下,製程微縮時元件面積與電容會減少,因此能降低供應電壓 $V_{\text{dd}}$,把晶片的電力密度維持一定。
但這個縮放在 2005 年左右崩潰了。這是因為在室溫($300\text{K}$)下,MOSFET 及 FinFET 的次臨界擺幅(臨界電壓以下擺幅),被波茲曼熱力學分布根本地限制:$$S = \left( \frac{\partial \log_{10} I_{\text{ds}}}{\partial V_{\text{gs}}} \right)^{-1} = \frac{k_B T}{q} \ln(10) \left( 1 + \frac{C_{\text{dep}}}{C_{\text{ox}}} \right) \ge \mathbf{60\text{ mV/decade at 300K}}$$由於把電流切斷到十分之一,閘極電壓至少需要 $60\text{ mV}$ 的物理限制,在把漏電流控制在容許範圍內的同時,把臨界電壓($V_{\text{th}}$)降到 $0.25\text{V}$ 以下變得不可能。
隨著臨界電壓觸底,供應電壓 $V_{\text{dd}}$ 也固定在 $0.7\text{V}\sim 0.75\text{V}$ 附近。動態電力與電壓的平方($V_{\text{dd}}^2$)成正比,因此透過電壓下降實現劇烈電力削減的路徑被切斷了。
[圖 11 — 丹納德縮放崩潰:供應電壓 (Vdd) 及時脈頻率的平坦化 (1990–2026)](描繪從 1990 年到現在,電壓縮放在 0.8V 附近停止,電晶體縮小帶來的單位效能電力減少效益中斷的物理極限)
此外,電路延遲時間遵循阿爾法冪定律:$$\tau \propto \frac{V_{\text{dd}}}{(V_{\text{dd}} - V_{\text{th}})^\alpha}$$如果工程師為了降低消耗電力,把 $V_{\text{dd}}$ 從 $0.75\text{V}$ 降到 $0.55\text{V}$,過驅動電壓($V_{\text{dd}} - V_{\text{th}}$)急劇減少,傳播延遲時間 $\tau$ 就會暴增。運算頻率 $f$ 降低,處理器的處理速度受損。
在靜態時序分析(STA)與物理設計現場面對的物理限制如下:
- 多重臨界電壓 (Multi-$V_t$) 的極限:時序收斂引擎只在建立時序裕量吃緊的關鍵路徑上,選擇性配置 Low-$V_t$(LVT/ULVT)單元,在其餘 $80\%$ 以上的非關鍵路徑上強制配置 High-$V_t$(HVT/EHVT)單元,以抑制漏電流。但當加速器接面溫度上升到 $85^\circ\text{C}\sim 105^\circ\text{C}$,連 HVT 單元的熱漏電流(Thermal Leakage)也會暴增,把封裝整體電力的 $20\sim 35\%$ 消耗在漏電上。
- 互連配線電阻 (RC 延遲) 的暴增:$3\text{nm}$ 以下節點的下層金屬配線(M1~M4)線寬已縮到 $15\text{ nm}$ 以下。在這個尺度下,由於電子散射(Surface & Grain Boundary Scattering),銅的電阻率急劇上升。在高達 $800\text{ mm}^2$ 的超大型晶粒內部,把訊號傳輸數毫米所花費的 RC 配線延遲與驅動緩衝器的動態電力消耗,超過了電晶體切換電力。
- 時脈分配網路 (Clock Tree) 的負載:為了在不產生相位延遲的情況下,把同步訊號施加到數千億個電晶體,數萬個時脈緩衝器常時切換($\alpha = 1$)。光是時脈網路就消耗核心邏輯動態電力的 $25\sim 35\%$。
下一代結構的極限:CPO、3D 封裝、精度縮小
半導體產業為了繞過這道壁壘,正在探索微架構創新:
- 超低精度量化 (FP4 及 Microscaling):運算能量與位元數的平方($O(b^2)$)成正比,因此從 16 位元(BF16)轉換到 8 位元(FP8)時,算術能量減少 4 倍以上。NVIDIA Blackwell 的 4 位元微縮放(MXFP4)把運算能量降到 $\approx 0.03\text{ pJ/MAC}$ 水準。同時權重大小減半,能把所需的 HBM 傳輸頻寬與移動能量削減 $50\%$。但精度縮小在長推理鏈(Long-chain CoT)或反向傳播學習時,會引起數值不穩定與梯度消失,因此無法無限適用。
- 先進 3D 堆疊及混合接合:為了克服矽平面配線的極限,透過 TSMC 的 SoIC 這類直接銅-銅混合接合,把晶粒以三維方式堆疊。把凸塊間距縮到 $5\text{ }\mu\text{m}$ 以下,互連長度就能縮短到微米單位,把傳輸能量降到 $0.2\text{ pJ/bit}$ 以下。但在主動邏輯晶粒上再堆疊另一個晶粒,單位面積的熱通量(Heat Flux)會超過 $300\text{ W/cm}^2$,發生難以排出上方晶片熱量的熱集中問題。
- 光學 I/O (Co-Packaged Optics, CPO):這是移除晶片與晶片、交換器之間電氣 SerDes,在基板上整合光學收發器的技術。它能排除銅配線的電阻損失,把通訊能量降到 $<2\text{ pJ/bit}$。但在被加熱到 $85^\circ\text{C}\sim 100^\circ\text{C}$ 以上的高整合封裝內部,雷射光源(InP 雷射二極體)的量子效率降低與熱劣化帶來的可靠性極限,是商業化的絆腳石。
半導體技術不斷提高能源效率。但這終究只是在「切換與移動位元所需的物理熱力學成本」這個根本極限之內的優化。
VI. 指標的重新定義:什麼是「每焦耳有效智慧」?
要診斷這些半導體工程的改善,是否真的在解決基礎設施的電力問題,必須先修正量測效率的尺度。目前產業使用的三個指標,都內含工程上的扭曲:
既有運算效率指標的結構性盲點
========================================================================================
既有指標名稱 標準量測單位 內含的結構性缺陷及扭曲
----------------------------------------------------------------------------------------
Peak TFLOPS / Watt 運算次數 / Joule 理論最大值; 排除實際 MFU、記憶體瓶頸、閒置電力
Tokens / Joule token 數 / Watt-hour 單純模型偏向; 把複雜的推理任務與淺層文字同等看待
電力使用效率 (PUE) 總電力 / IT 電力 只是建築基礎設施效率; 100% 閒置狀態的伺服器也能達到 PUE 1.08
========================================================================================
- Peak TFLOPS / Watt:在資料常駐於局部 SRAM 的條件下量測的理論極限值。它排除了實際工作負載中的記憶體存取等待、網路封包損失、管線延遲。在實際環境 MFU 掉到 $35\%$ 以下的環境中,這個指標會把實際能源生產力高估 $2\sim 6$ 倍。
- Tokens / Joule:模型生成的 token 數除以電力量的值。10 億個參數的小型模型生成簡單句子時消耗的電力,與 1 兆個參數的稀疏模型為了複雜的數學證明執行長鏈推理時消耗的電力,性質不同。這個指標會人為地給低智慧模型很高的效率分數。
- Power Usage Effectiveness (PUE):它只顯示建築把電力浪費得有多「少」。就算插著 $45\text{nm}$ 製程的舊型伺服器、只把冷卻設備以高效率運轉,也能達到 PUE $1.08$。
提案:生命週期每焦耳有效智慧 ($\mathcal{U}_{\mathcal{I}}$)
為了評估智慧生成的實際能源效率,建立一個整合了經驗證的智力產出、任務的熵(難度)、以及生命週期整體能源的尺度。首先定義有效認知產出量 ($\mathcal{C}$):$$\mathcal{C} = \sum_{i=1}^{N} \mathcal{Q}(T_i) \times \mathcal{D}(T_i)$$$T_i$ 是模型執行的個別運算任務。$\mathcal{Q}(T_i) \in [0, 1]$ 是以基準為基礎的經經驗證正確度係數(例如 SWE-bench Verified 的單元測試通過率、數學形式證明驗證是否成功等)。$\mathcal{D}(T_i)$ 是任務難度,是解決任務所需的最小資訊熵,或人類專家的基準工作時間。接著定義涵蓋硬體製造及設施基礎設施建設所投入內含能源的總生命週期能源 ($\mathcal{E}_{\text{lifecycle}}$):$$\mathcal{E}_{\text{lifecycle}} = \int_0^L P_{\text{facility}}(t) dt + \mathcal{E}_{\text{embodied}}$$這裡 $L$ 是加速器的有效壽命(3~4 年),$\mathcal{E}_{\text{embodied}}$ 是投入邏輯、HBM、中介層製造及機箱製作的總一次電氣能源。把兩者結合,建立生命週期每焦耳有效智慧 ($\mathcal{U}_{\mathcal{I}}$):$$\mathcal{U}_{\mathcal{I}} = \frac{\mathcal{C}}{\mathcal{E}_{\text{lifecycle}}} = \frac{\sum_{i=1}^{N} \mathcal{Q}(T_i) \times \mathcal{D}(T_i)}{\int_0^L \left( P_{\text{IT}}(t) \times \text{PUE}(t) \right) dt + \mathcal{E}_{\text{embodied}}}$$
[圖 12 — 概念框架:單純運算效率 (TFLOPS/W) 與生命週期有效智慧 (BVT/kWh) 的落差](對比硬體峰值運算規格增加了 10 倍,但以實際經驗證任務處理量為基礎的有效智慧指標,卻因記憶體瓶頸與軟體效率低落而畫出緩慢上升曲線的現實)
工程現實指標:$\text{BVT}/\text{kWh}_{\text{life}}$
把這轉換為現場資料中心工程師能直接量測的定量單位,就是每生命週期 kWh 的基準驗證任務處理量(Benchmark-Verified Task Throughput per Lifecycle kWh):$$\text{BVT}/\text{kWh}_{\text{life}} = \frac{\text{成功驗證的高難度任務數 (SWE-bench verified passes)}}{\text{總設施消耗電力量 (kWh)} + \text{攤銷的製造內含電力量 (kWh)}}$$這個指標提供的基準,追蹤的不是單純的矩陣運算速度或無意義的 token 生成量,而是相對於投入的總電力,實際創造經濟價值的智慧的量。
VII. 傑文斯悖論:效率加速消耗的機制
以新指標為基礎,可以接近核心的經濟與物理問題。當運算效率劇烈改善時,全球 AI 資料中心的總電力消耗會減少嗎?歷史顯示並非如此。1865 年,英國經濟學家威廉·史坦利·傑文斯(William Stanley Jevons)觀察到,詹姆斯·瓦特的蒸汽機改良並沒有減少煤炭消耗。導入複式蒸汽機大幅提高蒸汽機的熱效率後,每單位馬力的煤炭消耗量急劇減少,這降低了蒸汽機的運轉成本,成為蒸汽機不只用於礦山排水,也擴散到紡織機、煉鐵廠、鐵路、蒸汽船等英國產業全域的觸媒。單位效率的改善,引發了總煤炭消耗的暴增。
人工智慧生態系內傑文斯悖論的階段性展開
========================================================================================
階段 硬體及市場機制 電網承受的系統性結果
----------------------------------------------------------------------------------------
1 階段 工程創新 (導入 FP4, MoE, 替代優化) 單位 token 推理成本下降 80%
2 階段 價格彈性帶來的市場反應 跌破臨界價格,創造新需求
3 階段 推理典範的構造性轉移 導入測試時運算,token 生成量暴增 50 倍
4 階段 超彈性需求爆發 (|ε| > 1.4) 壓倒單位電力減少量,總電力消耗急增
========================================================================================
反彈邊界條件的數學推導
在特定期間內 AI 基礎設施消耗的總電力 $E$ 如下:$$E = Q \times I_e$$這裡 $Q$ 是生成的 AI 產出(token 數或經經驗證任務數)的總量,$I_e$ 是每單位產出消耗的能源密集度($\text{Joules/token}$)。假設透過半導體架構與製程微縮,能源效率提高了 $\eta$ 倍($\eta > 1$)。改善後的能源密集度 $I_e'$ 為:$$I_e' = \frac{I_e}{\eta}$$單位 token 的邊際生產成本 $C$,是硬體折舊費與電力成本的函數:$$C' \approx \frac{C}{\eta^\beta}$$這裡 $\beta \in [0.6, 1.0]$ 是硬體及電力成本在整體推理成本中所佔的彈性係數。定義運算需求的價格彈性 $\epsilon$:$$\epsilon = \frac{\partial \ln Q}{\partial \ln C} = \frac{\% \Delta Q}{\% \Delta C}$$隨成本下降而新形成的運算需求量 $Q'$ 為:$$Q' = Q \times \left( \frac{C'}{C} \right)^\epsilon = Q \times \left( \eta^{-\beta} \right)^\epsilon = Q \times \eta^{-\beta \epsilon}$$效率改善後的新總電力消耗量 $E'$ 如下:$$E' = Q' \times I_e' = \left( Q \times \eta^{-\beta \epsilon} \right) \times \left( \frac{I_e}{\eta} \right) = E \times \eta^{-(\beta \epsilon + 1)}$$總電力消耗增加的傑文斯條件($E' > E$):指數項必須為正:$$-(\beta \epsilon + 1) > 0 \implies \beta \epsilon + 1 < 0 \implies \epsilon < -\frac{1}{\beta}$$需求曲線是向下傾斜的($\epsilon < 0$),所以以絕對值表示如下:$$|\epsilon| > \frac{1}{\beta}$$如果看基礎設施硬體及電力折舊佔整體可變營運費的約 $75\%$($\beta \approx 0.75$):$$|\epsilon| > \frac{1}{0.75} \approx \mathbf{1.33}$$也就是說,在運算需求的價格彈性絕對值 $|\epsilon|$ 超過 $1.33$ 的狀態下,硬體能源效率每改善 $10\%$,資料中心的總電力消耗量反而會增加。
[圖 13 — 傑文斯悖論的彈性相空間 (Rebound Phase Space)](把效率提升係數 η 與需求彈性 |ε| 的交叉點映射出來,視覺化單位電力節減連接到總電力減少的 conservation 區域,與連接到總電力暴增的 rebound 區域的邊界線 |ε| = 1.25~1.33)
發生 5 倍硬體效率改善 (η = 5.0) 時,依彈性的總電力消耗變化模擬
========================================================================================
需求彈性水準 彈性係數 (|ε|) token 需求量增加率 最終總電力消耗變化 系統性結果
----------------------------------------------------------------------------------------
非彈性 (Inelastic) |ε| = 0.5 +89% (1.89 倍) -62% (0.38 倍) 實際能源節省
單位彈性 (Unitary) |ε| = 1.0 +262% (3.62 倍) -28% (0.72 倍) 部分節省
臨界分歧點 |ε| = 1.25 +400% (5.00 倍) 0% (1.00 倍) 消耗量無變動
彈性 (Elastic) |ε| = 1.6 +780% (8.80 倍) +76% (1.76 倍) 反彈 (電力增加)
超彈性 (Hyper-El.) |ε| = 2.2 +2,030% (21.3 倍) +326% (4.26 倍) 傑文斯悖論爆發
========================================================================================
以硬體成本權重 β = 0.8 為準導出的定量模擬。
現代 AI 推理需求超彈性 ($|\epsilon| > 1.5$) 的三個理由
既有的搜尋或影片串流等消費者運算,接近非彈性($|\epsilon| < 1.0$)。即使搜尋成本降到十分之一,個人也不會一天搜尋 10 萬次。因為人類的時間與注意力是物理上限。但先進 AI 推理已經脫離人類注意力上限,進入超彈性需求領域:
- 測試時運算 (Test-Time Compute / Reasoning Model):OpenAI o1/o3、DeepSeek-R1 等推理專門模型的登場,把縮放的軸從預訓練轉移到推理。與既有方式對使用者的 1 個問題輸出 500 個 token 就結束不同,推理模型為了在內部驗證錯誤、探索多條路徑、執行蒙地卡羅樹搜尋(MCTS),會自己生成每個問題 10,000~100,000 個「思考(Thinking)token」。當加速器效率提高 5 倍、每 token 成本下降時,系統會以那個下降量為基礎,選擇生成更多 token 來提高正確度的演算法。token 消耗量增加 50 倍。
- 自主代理人 (Autonomous Agent) 的常時迴圈:人機對話型聊天機器人被人類的回應速度綁住。相對地,自主執行軟體錯誤修正、漏洞修補、金融資料分析的背景代理人,則不休息地運轉。代理人修改程式碼、分析編譯錯誤、反覆執行測試,在 24 小時內連續消耗數千萬個 token。被人類注意力束縛的需求上限消失了。
- 即時多模態影片及物理模擬:文字 token 生成每 token 消耗約 $10^{-4}\text{ Wh}$ 水準的電力。相對地,即時高解析度影片生成(擴散模型)或機器人用即時物理空間渲染,每輸出 1 分鐘消耗 $500\sim 1,000\text{ Wh}$。消耗比文字大 $1,000\sim 10,000$ 倍運算量的技術,正乘著價格下降進入市場。
只要尚未解決的眾多專業工作與工程問題的價值達到數兆美元,對高可靠度智慧的需求就是開放的。即使透過工程創新把每運算的電力效率提高 5 倍、10 倍,也不會連接到電網負載的減少。反而會打開更深的鏈式推理與常時運轉的代理人市場,進一步加速總電力消耗。
VIII. 巨觀環境資產負債表:氣候與資源的實際影響
那麼,這種電力消耗的擴大,會對地球環境與氣候造成什麼影響?有必要與一部分誇大的數值保持距離,把資料中心在全球溫室氣體排放及資源資產負債表上的位置定量配置。
全球能源消耗及溫室氣體排放資產負債表 (以年度為準)
========================================================================================
部門 / 主體 年度消耗電力量 年度溫室氣體排放量 全球排放比重
----------------------------------------------------------------------------------------
全球全人類活動總計 29,500 TWh 53.8 Gt CO2e 100.0%
全球製造業及產業部門 12,200 TWh 16.2 Gt CO2e 30.1%
全球道路運輸部門 (汽車等) 500 TWh 8.4 Gt CO2e 15.6%
全球鋼鐵製造單獨 1,800 TWh 3.6 Gt CO2e 6.7%
全球半導體晶圓廠製造製程 75 TWh 0.06 Gt CO2e 0.11%
全球資料中心整體 (2025) 485 TWh 0.22 Gt CO2e 0.41%
- 其中 AI 加速器工作負載 ~95 TWh ~0.04 Gt CO2e 0.08%
全球資料中心展望 (2030) 1,050 TWh 0.45 Gt CO2e 0.84%
========================================================================================
來源: IEA World Energy Outlook, IPCC AR6 報告, SEMI, 企業 ESG 揭露彙整。
[圖 14 — 全球溫室氣體排放資產負債表:主要產業部門 vs. 資料中心](把全球溫室氣體排放量中資料中心整體所佔的比重 (0.4%) 與 2030 年估計值 (0.8%),與鋼鐵、運輸、一般製造業對照,闡明客觀位置)
目前全球資料中心排放的溫室氣體,只佔全球整體排放量的 $0.4\%$,即使 2030 年電力消耗急增到 $1,050\text{ TWh}$,其比重也停留在 $1\%$ 以下。「AI 資料中心正在急劇破壞地球環境」的主張,缺乏定量依據。
實際的環境摩擦:系統性機會成本與轉移延遲
從環境觀點看,AI 電力急增造成的問題,發生在另一種機制中。在全球經濟全體必須把車輛、暖氣、重工業電氣化以實現去碳化的決定性時期,AI 基礎設施的急增,正在延遲電力系統的去碳轉換。
系統性轉移延遲 (Systemic Displacement) 因果結構
========================================================================================
1 階段: 十億瓦單位負載急增 ──> 威脅地區公用事業的電網穩定性
2 階段: 輸電網器材瓶頸 ──> 再生能源電網併網等待時間急增 (5 年以上)
3 階段: 煤炭火力退役延期 ──> 向 PJM, TVA 等監管當局申請既有老舊煤炭火力壽命延長
4 階段: 化石渦輪機新設置 ──> 15~27 GW 天然氣渦輪機新建及甲烷洩漏鎖定
5 階段: 潔淨資源獨佔 ──> 先佔將投入運輸 (EV) 及產業電氣化的潔淨電力資源
========================================================================================
這個連鎖過程以三條路徑展開:
- 煤炭火力發電廠的退役延遲:PJM、杜克能源、TVA 轄區的公用事業,正向監管當局提交整合資源計畫(IRP)修正案,把原定 2026~2028 年關閉的十億瓦級老舊煤炭火力發電廠的運轉停止,延後到 2032~2035 年之後。這是為了配合急增的資料中心基載,維持備用率。
- 化石燃料基礎設施的鎖定 (Lock-in):在輸電網許可延遲期間,為了填補電力供應空白而導入的 $15\sim 27\text{ GW}$ 自用發電天然氣渦輪機,排放 $400\sim 500\text{ g CO}_2/\text{kWh}$ 的碳。考慮天然氣管開採及輸送過程中發生的甲烷(CH₄) 洩漏(20 年基準溫室效應為 $\text{CO}_2$ 的 84 倍),這會在 2050 淨零路徑上留下長期的碳固定效應。
- 潔淨電力資源的優先先佔:隨著超大規模業者透過長期 PPA 大規模先佔商用核電與新潔淨電力,應供應給一般產業與住宅部門的暖氣電氣化(熱泵)及運輸部門(電動車)的無碳電力餘裕容量,正在縮小。
水資源消耗的虛與實:直接冷卻水 vs 間接發電冷卻水
資料中心的水消耗,也必須從技術觀點區分:
依冷卻方式及發電來源的單位電力水消耗量比較
========================================================================================
項目分類 冷卻技術 / 發電方式 單位消耗量 (Liters / kWh)
----------------------------------------------------------------------------------------
資料中心現場直接消耗 (Direct) 傳統蒸發式冷卻塔 (Evaporative) 2.0 – 2.5 L / kWh
資料中心現場直接消耗 (Direct) 封閉迴路直接液冷 (GB200 Dry) < 0.05 L / kWh (事實上無消耗)
發電廠間接蒸發消耗 (Indirect) 煤炭火力蒸汽冷卻塔 2.5 – 4.0 L / kWh
發電廠間接蒸發消耗 (Indirect) 核能發電冷卻塔 2.0 – 3.0 L / kWh
發電廠間接蒸發消耗 (Indirect) 複合循環燃氣渦輪機 (CCGT) 0.8 – 1.2 L / kWh
發電廠間接蒸發消耗 (Indirect) 公用事業太陽光電 PV 及風力 < 0.01 L / kWh
========================================================================================
來源: NREL, USGS, ASHRAE TC 9.9。
在資料中心現場灑水冷卻熱的舊型蒸發式冷卻塔,每 $1\text{ kWh}$ 會把 $2.0\sim 2.5\text{ 公升}$ 的水蒸發到大氣中。這在鳳凰城等乾旱地區,會對地方自來水容量造成負擔。
但隨著轉向 $100\text{ kW}$ 級高密度液冷(GB200 NVL72),冷卻架構已移動到完全封閉迴路(Closed-loop)與風扇式乾式冷卻器(Dry Cooler)體系。管線內部的水-乙二醇混合液密封循環,不把水蒸發到大氣中。直接水消耗量(Direct WUE)降到 $0.05\text{ L/kWh}$ 以下。
取而代之的是,資料中心水足跡的 $85\%$ 以上,發生在生產電力的遠端火力與核能發電廠的冷凝器冷卻過程中。煤炭與核能發電廠在驅動蒸汽渦輪機之後,為了丟棄廢熱,會蒸發龐大的冷卻水。因此,防止資料中心水資源枯竭的技術解法,不是改造現場管線,而是從不消耗冷卻水的太陽光電、風力,或氣冷式複合循環發電來源取得電力。
IX. 戰略建議:從運算縮放轉向能源縮放
人工智慧的競爭規則已經轉換。擴大大規模語言模型視野的瓶頸,從演算法的數學精確度開始,現在歸結到電網的物理容量、大型變壓器的交期、中介層配線的皮焦耳(pJ)損失,以及晶圓廠無塵室的電力。
AI 基礎設施競爭典範的結構性轉移
========================================================================================
評估領域 過去 10 年的典範 (2015–2025) 未來 10 年的典範 (2026–2035)
----------------------------------------------------------------------------------------
核心瓶頸資源 資本籌措與加速器供給 (確保 FLOPs) 無碳基載電力與變壓器輸電引進容量
晶片架構目標 Peak TFLOPS 最大化、晶粒面積擴張 生命週期每焦耳有效智慧 (BVT/kWh) 最大化
矽物理限制 電晶體閘極數、核心運作時脈 記憶體移動能源 (pJ/bit)、散熱極限
封裝標準技術 標準 PCB 及 2D 覆晶安裝 3D 混合接合及光學 I/O (CPO)
資料中心冷卻 以恆溫恆濕機 (CRAC) 為基礎的強制氣冷對流 設施一體型直接液冷 (Direct Liquid CDU)
與電網的關係 被動的電力消費者 (電網受電) 主動的基載分散發電及 BTM 發電企業
商業主導邏輯 預訓練 (Pre-training) 規模競爭 以測試時運算為基礎的推理可用性競爭
========================================================================================
這個結構性轉換,對半導體產業、物理設計工程師、超大規模業者基礎設施戰略家,要求明確的執行課題。
1. 給 EDA 及物理設計 (Physical Design) 工程師的建議
- 電力優化時點的前置配置:在靜態時序分析(STA)與布局及繞線(P&R)階段,不應把電力優化當作時序收斂之後的二次工作。在 $0.7\text{V}$ 電壓極限與配線電阻暴增的環境下,必須從平面規劃初期就反映電力剖面。
- 背面電網 (BSPDN) 的早期落地:應積極導入把訊號配線與電力供應線物理分離到晶圓正面與背面的背面電力傳輸技術。只有降低電力線的 IR 壓降、移除正面訊號配線的寄生電容,才能達成 $15\sim 20\%$ 的電壓裕量及動態電力削減。
- 時脈分配網路的全面重新設計:應脫離消耗核心動態電力三分之一的傳統樹狀結構,把超微細諧振式時脈(Resonant Clocking)或非同步式(GALS)資料傳遞體系,編入標準設計流程。
2. 給記憶體及封裝架構師的建議
- 比起增設 ALU,集中於互連能源削減:增加 $0.15\text{ pJ}$ 的運算器沒有意義。降低 $128\text{ pJ}$ 的 HBM 讀取能量才是核心。
- 以 3D 混合接合為基礎的垂直結合:把記憶體垂直堆疊在邏輯晶粒上,把配線長度從毫米縮小到微米單位,把資料移動能量抑制在 $0.2\text{ pJ/bit}$ 以下。為了移除這個過程產生的 $300\text{ W/cm}^2$ 以上的熱通量,矽貫穿微通道直接液冷技術的標準化刻不容緩。
- 克服 Co-Packaged Optics (CPO) 的可靠性:為了在機櫃間通訊中突破銅 SerDes 的傳輸極限,應把光學引擎整合到晶片封裝中,但把對高溫劣化脆弱的 InP 雷射光源外置化(Detached Laser Module),以確保模組的可更換性與可靠性。
3. 給超大規模業者及電力基礎設施戰略家的建議
- 改變資料中心選址方程式:以大都市周邊通訊光纜節點為中心的選址,已被電網壁壘擋住。現在應轉換為「電力基礎設施中心選址戰略」:收購輸電餘裕容量還剩的核電廠附近、水力發電據點,或預定停運的火力發電廠的引進線路用地。
- 對供應鏈上游的直接資本投資:變壓器不足與電工鋼瓶頸,不能放任為外包問題。超大規模業者應向變壓器製造商與高壓開關設備產線投入預付款(Offtake Agreements)以先佔槽位,必要時應把重電機製造新創公司垂直整合進來。
- 利用負載變動性的電網靈活性 (Demand Flexibility) 實現:推理工作負載需要即時回應,但大規模基礎模型的預訓練與批次性合成資料生成,則容許時間延遲。當局部電網發生頻率不穩定或尖峰時,應實現能在數秒內把 AI 學習叢集的電力削減 $30\sim 50\%$ 的靈活負載控制軟體,從電網營運者(RTO/ISO)取得輸電網優先接入權。
尾聲:未完的悖論 (The Unresolved Paradox)
故事再次回到邏輯 Transformer 與物理變壓器這兩端的相遇。
人工智慧軟體正在高度化。半導體工程將削磨閘極、減少位元、把配線以三維堆疊,以前所未有的速度降低單一運算與單一 token 生成所需的物理能源。
但那個效率改善,不會讓資料中心的電表停下來。
每當單位智慧的價格降低,人類就會把以前連計算都不敢想的問題,拖到模型面前。數萬 token 的深層推理、24 小時自主運作的代理人網路、模擬現實物理法則的大規模世界模擬,將填滿效率化打開的空間。
AI 競爭不再只停留在誰擁有更大的參數、誰買進更多晶片的問題上。
在輸電網與大型變壓器、冷卻水管線與矽晶圓廠的物理極限,成為成長絕對邊界的時代,真正的問題是這個:
我們能從給定的有限物理能源中,創造出多少經濟智慧?
而當半導體工程為了回答那個問題,把晶片的效率推到極限時,我們將面對技術史的老法則。
熱力學效率的提升,不是讓能源消耗停下來的煞車。
它是讓我們構築更龐大智慧的油門。
📩 今天錯過的分析,明天早上寄到您的信箱
每天10:30(KST)Daily Silicon與財報·機構報告核心解讀搶先送達。訂閱後可選擇韓語/英語/日語新聞通訊,中文深度分析每日在網站更新。
免費訂閱 →
免費 · 無垃圾郵件 · 隨時退訂