VLSI Korea
Analysis
推論はSRAM、学習はHBM：5つの事実 (Groq 3 LPX・Trainium3)
AI推論が二つに分かれる。デコーディングはHBMなしのSRAMチップGroq 3 LPXへ、学習はチップ当たりHBM3e 144GBのTrainium3へ。帯域幅57倍と容量162倍の非対称、そして両側に立つSamsungまでを5つの事実で整理した。（2026年10月24日時点）
deep-dive
VLSI Korea 딥다이브 — 반도체 이슈 하나를 데이터와 1차 자료로 끝까지 파는 심층 분석 시리즈의 전체 아카이브.
Analysis
Suy luận chia làm hai: 5 sự thật (Giải mã SRAM so với HBM)
Giải mã theo đuổi độ trễ bằng SRAM không dùng HBM trên Groq 3 LPX, trong khi huấn luyện và prefill vẫn theo đuổi dung lượng HBM trên Trainium3. Bất đối xứng băng thông và dung lượng chia suy luận làm hai.
Analysis
Inferensi Terbagi Dua: 5 Fakta (Decode SRAM vs HBM)
Decode mengejar latensi dengan SRAM tanpa HBM di Groq 3 LPX, sementara pelatihan dan prefill tetap mengejar kapasitas HBM di Trainium3. Asimetri lebar pita versus kapasitas membelah inferensi menjadi dua.
Analysis
A inferência se divide em duas: 5 fatos (decodificação SRAM vs. HBM)
A inferência se parte em duas: a decodificação premia a largura de banda da SRAM sem HBM do Groq 3 LPX, e o treinamento continua premiando a capacidade da HBM. A Samsung fica nos dois lados.
Analysis
La inferencia se divide en dos: 5 hechos (decodificación SRAM frente a HBM)
La inferencia se parte en dos: la decodificación premia el ancho de banda de la SRAM sin HBM del Groq 3 LPX, y el entrenamiento sigue premiando la capacidad de la HBM. Samsung queda en ambos lados.
Analysis
Inference Splits in Two: 5 Facts (SRAM Decode vs HBM)
AI inference is splitting in two: decode moves to HBM-free SRAM in NVIDIA's Groq 3 LPX, training stays on HBM capacity with AWS Trainium3. Five facts on the 57x bandwidth vs 162x capacity asymmetry, and Samsung on both sides. (As of Oct 24, 2026)
Analysis
추론은 SRAM, 학습은 HBM: 5가지 사실 (Groq 3 LPX·Trainium3)
AI 추론이 갈라진다. 디코딩은 HBM 없는 SRAM 칩 Groq 3 LPX로, 학습은 칩당 HBM3e 144GB인 Trainium3로. 대역폭 57배와 용량 162배의 비대칭, 그리고 양쪽에 선 Samsung까지 5가지 사실로 정리했다. (2026년 10월 24일 기준)
Analysis
Base Die NVHBM di TSMC 3nm untuk Tiga Pemasok: Mengapa Ini Bukan Kekalahan Samsung
NVIDIA hanya menstandarkan satu lapisan tumpukan HBM di TSMC 3nm. Core die, penumpukan, dan validasi tetap berbeda per pemasok, dan Samsung mempertahankan model turnkey untuk HBM standar.
Analysis
Base die do NVHBM em TSMC 3nm para os três fornecedores: por que não é uma derrota da Samsung
A NVIDIA padronizou apenas uma camada da pilha HBM em TSMC 3nm. Core dies, empilhamento e validação continuam diferentes por fornecedor, e a Samsung mantém seu modelo integral na HBM padrão.
Analysis
Base die de NVHBM en TSMC 3nm para los tres proveedores: por qué no es una derrota de Samsung
NVIDIA estandarizó solo una capa de la pila HBM en TSMC 3nm. Los core dies, el apilado y la validación siguen siendo distintos por proveedor, y Samsung mantiene su modelo integral en HBM estándar.
Analysis
NVHBM基底芯片统一用TSMC 3nm，为何不是三星落败
NVIDIA统一的只是HBM堆叠中的一层。TSMC 3nm只用于基底芯片制程，核心芯片、堆叠与验证仍由各供应商分别负责，三星在标准HBM上也保留一站式模式。
Analysis
NVHBM基底晶片統一用TSMC 3nm，為何不是Samsung落敗
NVIDIA統一的只是HBM堆疊中的一層。TSMC 3nm只用於基底晶片製程，核心晶片、堆疊與驗證仍由各供應商分別負責，Samsung在標準HBM上也保留一站式模式。