핵심 주장: AI 서버의 다음 병목은 더 빠른 GPU가 아니라, 700 W급 모듈 8개를 같은 보드에서 먹이고 식히고 테스트하는 능력이다.
왜 지금 OAM인가: AI 서버의 병목이 보드로 올라왔다
AI 가속기 경쟁은 오래 다이 면적, HBM 용량, 행렬 연산 성능으로 설명됐다. 그러나 2026년 서버 설계에서 더 자주 막히는 지점은 가속기 1개가 아니라 8개 모듈을 한 노드에 넣는 물리적 통합이다.
OCP의 OAM 자료는 초기부터 102 x 165 mm 모듈, 12 V와 48 V 입력, 350 W와 700 W급 TDP 범위를 제시했다. 이 숫자는 성능 목표가 아니라 서버 기구, 전원, 냉각, 커넥터 설계의 출발점이다.
AMD MI300X와 MI325X는 OAM 폼팩터를 제품 페이지와 데이터시트에서 명시한다. MI300X는 2023년 12월 6일 출시 제품으로 공개됐고, MI325X는 256 GB HBM3E와 6 TB/s 피크 이론 메모리 대역폭으로 제시됐다.
NVIDIA는 HGX와 별개로 MGX를 모듈형 서버 아키텍처로 설명한다. MGX의 메시지는 특정 GPU 보드 하나보다 여러 세대의 CPU, GPU, DPU, 전원, 냉각 구성을 더 빨리 조합하는 서버 설계 방식에 가깝다.
따라서 OAM을 GPU 포장 규격으로만 보면 절반만 본다. OAM은 AI 서버 공급망에서 칩 업체, ODM, 커넥터, VRM, 액체냉각, 테스트 장비가 같은 인터페이스를 놓고 협상하는 경계면이다.
무엇인가: GPU 카드가 아니라 베이스보드 생태계의 단위
OAM은 PCIe 애드인 카드와 다르다. 일반 PCIe 카드는 범용 슬롯, 브래킷, 섀시 호환성이 중요하지만, OAM은 고밀도 AI 노드 안에서 모듈, 히트싱크 또는 콜드플레이트, 베이스보드 커넥터, 관리 신호를 함께 다룬다.
OCP OAI 자료는 OAM을 공통 가속기 모듈로 두고, UBB를 여러 OAM을 연결하는 베이스보드로 둔다. 이 구조에서는 가속기 모듈이 바뀌어도 시스템 업체가 전원, 냉각, 관리, 기구 설계 일부를 재사용할 수 있다.
기술적으로 핵심은 세 갈래다. 첫째, 48 V 입력을 모듈 가까이 가져가 전류를 줄인다. 둘째, 액체냉각 접촉면을 모듈 레벨에서 규정한다. 셋째, 모듈 간 스케일업 링크와 호스트 링크를 베이스보드에서 짧고 균일하게 배치한다.
이 방식은 완전한 범용 표준을 뜻하지 않는다. NVIDIA HGX, NVIDIA MGX, AMD OAM 플랫폼은 서로 다른 생태계와 인터커넥트 전략을 가진다. OAM은 모든 GPU를 마음대로 섞는 마법의 소켓이 아니라, 재사용 가능한 설계 언어에 가깝다.
그래도 효과는 크다. 서버 개발자는 매 세대마다 섀시, 공기 흐름, 전원 케이블, 진동, 서비스 절차를 처음부터 다시 설계하지 않아도 된다. 반대로 모듈이 커지고 뜨거워질수록 규격의 작은 여백은 빠르게 사라진다.
왜 어려운가: 700 W 모듈은 전류보다 접촉과 검증이 무섭다
OAM의 난점은 숫자로 바로 보인다. 700 W급 모듈 8개면 가속기만 5.6 kW다. 여기에 CPU, 메모리, NIC, 팬 또는 펌프, 전원 변환 손실이 붙으면 노드와 랙 설계는 전통적인 서버 감각을 벗어난다.
48 V 전원은 같은 전력에서 전류를 낮춰 배선과 커넥터 손실을 줄인다. 하지만 전압을 올리면 핫스왑, 절연, 아크, 보호 회로, 현장 서비스 절차가 더 까다로워진다.
냉각은 더 미묘하다. 칩 온도는 패키지 내부 열저항, HBM 스택, TIM, 콜드플레이트 평탄도, 체결 압력의 합으로 결정된다. 평균 수온이 같아도 모듈별 접촉 편차가 있으면 성능 스로틀링이 먼저 온다.
신호 무결성도 보드 레벨 병목이다. 8개 OAM을 완전 연결하거나 고대역 링크로 묶으면 베이스보드 배선 길이, 커넥터 삽입손실, 리타이머 필요성, 테스트 포인트 접근성이 동시에 문제 된다.
테스트는 생산성의 숨은 병목이다. 모듈 단품 테스트가 통과해도 베이스보드 장착 후 링크 트레이닝, 액체 누수, 전원 시퀀싱, 펌웨어 호환성, 열 사이클 후 접촉 저항을 다시 봐야 한다. AI 서버의 수율은 웨이퍼 수율과 시스템 조립 수율의 곱이다.
누가 유리한가: GPU보다 플랫폼을 가진 쪽
OAM 국면에서 유리한 회사는 가장 빠른 다이만 가진 회사가 아니다. 가속기, 베이스보드, 펌웨어, 랙 전원, 냉각 파트너를 함께 움직일 수 있는 플랫폼 사업자가 일정 리스크를 줄인다.
AMD는 Instinct MI300X와 MI325X에서 OAM을 전면에 둔다. MI300X 데이터시트는 OAM 모듈 안에 8개 XCD와 HBM을 통합한 구조를 설명하고, 제품 페이지는 MI325X OAM의 256 GB HBM3E와 6 TB/s 대역폭을 제시한다.
NVIDIA는 OAM이라는 단일 단어보다 HGX와 MGX로 시장을 나눈다. HGX는 NVLink 기반 멀티 GPU 베이스보드에 가깝고, MGX는 시스템 업체가 여러 서버 변형을 빠르게 만들도록 하는 모듈형 레퍼런스 아키텍처로 설명된다.
OCP는 특정 벤더의 제품 전략을 중립화하는 장소다. OAI 워크스트림은 OAM, UBB, EXP 같은 모듈 계층을 공개 기여 방식으로 관리한다. 표준은 성능을 보장하지 않지만, 공급망의 인터페이스 논의를 공개 테이블로 끌어낸다.
커넥터, 전원, 냉각 업체도 포지션이 좋아진다. 모듈 전력이 올라갈수록 고속 메자닌 커넥터, 48 V 전원 변환, 콜드플레이트, 누수 감지, 랙 전원 보호가 BOM의 주변 부품이 아니라 출하 가능성을 결정하는 부품이 된다.
한국 렌즈: HBM 강점만으로는 OAM 병목을 못 푼다
한국의 직접 강점은 HBM이다. SK hynix와 Samsung은 AI 가속기 패키지에 들어가는 고대역폭 메모리에서 핵심 공급자다. 그러나 OAM 서버의 고객 가치는 HBM 납품 후에 끝나지 않는다.
HBM 공급이 늘수록 고객은 더 많은 OAM 모듈을 더 높은 전력으로 조립하려 한다. 이때 한국 업체가 보는 기회는 메모리 다이 판매를 넘어 패키지 열 모델, 신뢰성 데이터, 모듈 테스트 협업으로 확장하는 것이다.
삼성 파운드리와 국내 OSAT, 기판, 장비 업체에는 다른 질문이 생긴다. OAM 모듈용 고전력 패키지는 패키지 워페이지, 언더필, 기판 전원망, 열 사이클, 수리 가능성까지 고객 검증 항목에 들어간다.
국내 팹리스와 AI 칩 스타트업에는 OAM이 양날이다. 표준화된 모듈과 베이스보드가 있으면 고객 평가 진입 장벽은 낮아질 수 있다. 하지만 700 W급 전력, 액체냉각, 고속 링크 검증을 감당하지 못하면 칩 성능표만으로는 서버 채택을 얻기 어렵다.
대학과 인력 측면에서는 보드, 패키지, 열, 전원, 펌웨어를 함께 아는 엔지니어 수요가 늘어난다. AI 반도체 인력의 병목은 RTL만이 아니라 시스템 실험을 설계하고 실패를 계측하는 능력으로 이동한다.
앞으로 6-12개월 관전 포인트
첫째, OAM과 MGX 계열 서버에서 48 V를 넘어 랙 레벨 고전압 전원 논의가 얼마나 빨리 상용 부품으로 내려오는지 봐야 한다. 2026년 5월 ADI와 Infineon은 NVIDIA MGX 전원 생태계 관련 발표에서 고전압 보호와 전력 변환을 강조했다.
둘째, MI325X급 256 GB HBM3E OAM 공급이 실제 서버 출하에서 얼마나 매끄럽게 이어지는지 봐야 한다. 메모리 용량과 대역폭 숫자가 커질수록 모듈 전력, 냉각, 검증 시간도 같이 커진다.
셋째, OCP OAI 문서와 워크스트림에서 OAM, UBB, EXP 계층의 개정과 공개 기여가 늘어나는지 확인해야 한다. 표준 문서의 변화는 서버 업체가 어디에서 반복 비용을 느끼는지 보여주는 조기 신호다.
넷째, 한국 공급망은 HBM 단가보다 고객의 모듈 검증 요구를 봐야 한다. 패키지 열 모델, 모듈 번인, 액체냉각 신뢰성, 보드 레벨 전력 무결성 데이터를 누가 먼저 제공하는지가 차별점이 된다.
다섯째, OAM이 모든 AI 서버를 통일할 것이라는 기대는 낮춰야 한다. 대형 클라우드는 여전히 자체 보드와 독자 인터커넥트를 선호할 수 있다. OAM의 현실적 역할은 완전한 호환이 아니라 설계 반복 비용을 낮추는 공통 기준선이다.
원문 링크
- OCP Server OAI wiki (2024-09-01 - OAI workstream, OAM and UBB public specification context)
- OCP OAI overview PDF (2019-03-14 - OAM module size, 12 V and 48 V input, 350 W and 700 W power framing)
- OCP Accelerator Module PDF (2019-03-14 - OAM form factor and power requirement claims)
- AMD Instinct MI300X product page (2023-12-06 - MI300X launch date and public product positioning)
- AMD Instinct MI300 Series page (2024-09-26 - MI325X OAM, 256 GB HBM3E, 6 TB/s peak theoretical memory bandwidth)
- AMD Instinct MI300X data sheet (2024-05-01 - MI300X OAM module architecture and chiplet integration)
- NVIDIA MGX newsroom (2023-05-29 - MGX modular architecture, HGX contrast, multi-generational compatibility)
- Analog Devices MGX power press release (2026-05-28 - Recent MGX power ecosystem reference and 800 VDC discussion)
- Infineon MGX power press release (2026-05-28 - Recent MGX power delivery ecosystem reference)
이미지와 원본 자료 후보
- AMD Instinct MI300X product image (company_press - Company product page image; reuse terms not automatically granted - link only, do not embed)
- NVIDIA MGX newsroom image (company_press - NVIDIA newsroom material; check press usage terms before embedding - link only, do not embed)
- OCP OAI overview diagrams (standard_public - OCP contribution pages list OWF CLA for relevant specifications; verify file-level license before reuse - needs manual permission)
