왜 지금인가: AI 서버의 빈 공간은 GPU가 아니라 CPU 메모리 전력이다
AI 서버에서 HBM은 가장 비싼 메모리처럼 보이지만, 시스템 설계자가 매일 부딪히는 병목은 GPU 패키지 밖에도 있다. 데이터 전처리, 검색 증강, 토큰 스케줄링, CPU 기반 서비스 로직, 체크포인트 조작은 CPU-attached 메모리 용량과 전력에 민감하다. GPU HBM이 연산 가까이에서 초고대역폭을 담당한다면, CPU 옆 DRAM은 큰 컨텍스트와 다수 세션을 계속 붙잡는 용량 계층이다.
RDIMM은 서버 생태계에서 압도적으로 검증된 선택이다. 그러나 AI 랙은 전력과 냉각 예산을 GPU, 스위치, 광모듈, 전원 변환에 먼저 배분한다. CPU 메모리가 같은 용량에서 더 많은 보드 면적과 전력을 쓰면, 랙 밀도는 빠르게 낮아진다. SOCAMM2가 의미 있는 이유는 여기다. HBM을 대체하려는 메모리가 아니라, CPU 옆 DRAM의 와트와 부피를 줄여 GPU가 요구하는 시스템 밀도를 따라가려는 모듈이다.
Micron은 2026년 3월 256GB SOCAMM2 고객 샘플 출하를 발표하면서, 8채널 CPU 기준 최대 2TB LPDRAM 구성을 제시했다. 같은 발표에서 Micron은 등가 RDIMM 대비 전력과 풋프린트를 각각 3분의 1 수준으로 낮춘다고 주장했다. 이 수치는 벤더 조건의 비교이므로 그대로 시스템 TCO로 환산하면 안 된다. 다만 서버 메모리 논의가 대역폭에서 전력 밀도와 서비스 가능성으로 이동하고 있다는 신호로는 충분하다.
무엇인가: LPDDR5X를 서버용 탈착 모듈로 만든 압축 접점 구조
SOCAMM2의 작동 원리는 단순한 이름 변경이 아니다. 핵심은 LPDDR5X 패키지를 서버 보드에 납땜하지 않고, 압축 접점 기반 모듈로 CPU 근처에 배치하는 것이다. LPDDR 계열은 모바일과 클라이언트에서 낮은 전압, 짧은 배선, 낮은 유휴 전력을 위해 진화했다. 서버 RDIMM은 긴 채널, 버퍼링, 표준 슬롯, 현장 교체성을 위해 진화했다. SOCAMM2는 이 둘 사이에서 LPDDR의 전력 장점을 가져오되 모듈 교체성을 포기하지 않으려는 설계다.
여기서 압축 접점은 중요한 물리 계층이다. DIMM 슬롯은 보드 가장자리 방향의 긴 핀과 삽입 구조를 쓴다. 반면 CAMM 계열 구조는 모듈을 보드 위에 눌러 붙이는 형태라서 CPU와 DRAM 사이 배선을 짧게 만들기 쉽다. 배선이 짧아지면 같은 데이터 속도에서 삽입 손실, 반사, 스큐 마진이 좋아질 수 있다. 하지만 접점 수, 체결 압력, 보드 휨, 반복 탈착 수명, 열 팽창 차이는 새 리스크가 된다.
JEDEC의 CAMM2 표준은 DDR5 CAMM2와 LPDDR5/5X CAMM2의 전기적, 기계적 요구사항을 하나의 표준으로 정의했다. SOCAMM2는 데이터센터와 AI 서버 쪽으로 같은 철학을 확장하는 흐름으로 봐야 한다. 용어가 비슷해도 클라이언트 LPCAMM2와 서버 SOCAMM2는 요구 조건이 다르다. 노트북은 얇은 폼팩터와 배터리가 핵심이고, 서버는 랙 전력, 액체 냉각 적합성, 장시간 신뢰성, 플랫폼 검증이 핵심이다.
어려운 이유: 좋은 신호 무결성은 공짜가 아니고 열은 위에서 내려온다
SOCAMM2의 첫 번째 난점은 신호 무결성이다. 짧은 배선은 장점이지만, 압축 접점은 접촉 저항과 접점 균일성이라는 변수를 만든다. 서버 보드는 온도 사이클과 장기 진동, 팬 또는 펌프에 의한 미세 진동, 유지보수 중 체결 토크 편차를 겪는다. 접점 하나가 완전히 실패하지 않아도 임피던스 편차와 타이밍 마진 축소는 고속 LPDDR5X 채널에서 검증 시간을 늘린다.
두 번째 난점은 열 경로다. RDIMM은 수직 모듈로 공기 흐름을 받는 구조가 익숙하다. SOCAMM2는 보드에 눕는 형태라서 높이를 낮출 수 있지만, CPU, VRM, 고전류 전원 플레인, 액체 냉각 콜드플레이트와 공간을 나눠 써야 한다. LPDDR 자체의 전력 이점이 있어도 192GB 또는 256GB급 모듈은 패키지 수와 밀도가 높다. 모듈 상단 방열, 보드 하단 열 확산, 커넥터 주변 온도 상승을 함께 풀어야 한다.
세 번째 난점은 RAS와 서비스 모델이다. 서버 메모리는 단지 빠르면 되는 부품이 아니다. ECC 정책, 훈련 실패 시 복구, 핫 스왑은 아니더라도 현장 교체 절차, SPD 또는 관리 정보, 펌웨어 로그, 장애 격리 단위가 필요하다. 운영자는 모듈 교체 시간이 짧고 원인 분석이 명확한 구조를 원한다. SOCAMM2가 RDIMM을 일부 대체하려면 전기적 성능뿐 아니라 장애 처리 문법까지 서버답게 만들어야 한다.
누가 유리한가: 메모리 업체보다 플랫폼 소유자가 채택 속도를 결정한다
SOCAMM2에서 유리한 회사는 단순히 DRAM을 잘 만드는 회사만이 아니다. DRAM 공정, LPDDR 패키징, 모듈 기판, 커넥터, 서버 보드, 펌웨어, 냉각 설계를 한 번에 묶는 회사가 유리하다. Micron은 192GB와 256GB SOCAMM2를 공개하며 데이터센터 LPDRAM 포지션을 공격적으로 잡았다. Samsung도 SOCAMM2 제품 페이지에서 고대역폭, 저전력, 콤팩트 탈착형 설계를 데이터센터 밀도와 냉각 효율 개선의 근거로 제시한다. SK hynix는 2026년 4월 192GB SOCAMM2 양산 시작을 발표했다.
그러나 실제 승자는 서버 플랫폼을 통제하는 CPU, GPU, 보드 OEM 쪽에서 결정될 가능성이 크다. 메모리 모듈이 좋아도 CPU 메모리 컨트롤러, BIOS, 보드 라우팅, 냉각 모듈, 랙 서비스 절차가 준비되지 않으면 채택은 느리다. 반대로 특정 AI 플랫폼이 SOCAMM2를 기본 옵션으로 고정하면 생태계는 빠르게 따라간다. 서버 메모리는 부품 시장이 아니라 검증된 플랫폼 시장이다.
표준화 단체의 역할도 중요하다. JEDEC CAMM2가 클라이언트와 일부 서버 세그먼트의 공통 언어를 제공했다면, SOCAMM2 계열은 데이터센터 특유의 관리, 신뢰성, 열, 서비스 요구사항을 더 명확히 해야 한다. 표준이 늦으면 각 가속기 플랫폼별 커스텀 모듈이 생기고, 모듈 공급사는 물량을 얻는 대신 호환성 비용을 떠안게 된다.
한국 렌즈: HBM 다음 전장은 패키지보다 서버 메모리 플랫폼 검증이다
한국 메모리 산업에는 SOCAMM2가 양면적인 기회다. SK hynix와 Samsung은 LPDDR, HBM, 서버 DRAM 모두에서 글로벌 고객과 맞닿아 있다. 하지만 SOCAMM2는 HBM처럼 실리콘 인터포저와 TSV가 중심인 제품이 아니다. 고속 LPDDR 다이를 안정적으로 공급하는 능력에 더해, 모듈 기판, 커넥터, 열 솔루션, 서버 보드 공동 검증이 중요하다. 한국 생태계가 얻을 수 있는 부가가치는 DRAM 웨이퍼 이후 단계에서 얼마나 많이 남기느냐에 달려 있다.
SK hynix가 192GB SOCAMM2 양산을 공개한 것은 한국 입장에서 의미가 있다. HBM이 GPU 패키지 안의 초고대역폭 시장이라면, SOCAMM2는 AI 서버 CPU 주변 메모리의 전력 밀도 시장이다. 두 시장은 경쟁 관계가 아니라 같은 랙 안에서 예산을 나눠 갖는다. HBM 공급이 강한 회사라도 CPU 메모리 계층을 놓치면 플랫폼 협상력이 줄 수 있다.
Samsung에는 다른 기회가 있다. Samsung은 DRAM, 파운드리, 패키징, 시스템 반도체 고객 접점을 모두 갖고 있다. SOCAMM2 같은 모듈은 메모리 단품 판매가 아니라 서버 레퍼런스 설계, SI 모델, 열 모델, 검증 리포트와 함께 팔릴수록 가치가 커진다. 국내 팹리스와 보드 설계 인력에게도 의미가 있다. AI 서버 카드와 베이스보드 설계에서 메모리 채널 검증, 전원 무결성, 열 해석 경험은 HBM 패키징만큼 희소한 역량이 된다.
앞으로 6-12개월 관전 포인트: 샘플보다 중요한 것은 플랫폼 고정이다
첫째, 256GB SOCAMM2가 고객 샘플에서 인증된 플랫폼 옵션으로 넘어가는지 봐야 한다. 샘플 출하는 기술 가능성을 말하지만, 서버 OEM의 qualified vendor list에 들어가는 것은 다른 문제다. BIOS 메모리 훈련, 장애 로그, 열 제한 조건, 현장 교체 절차가 문서화되어야 한다.
둘째, 192GB와 256GB 사이의 경제성이 중요하다. 256GB 모듈은 8개 장착 시 2TB 구성을 만들 수 있지만, 수율과 패키지 비용이 높으면 초기 채택은 192GB 또는 더 낮은 용량에 머물 수 있다. AI 추론 서버가 실제로 더 큰 CPU 메모리 풀에서 응답 시간이나 동시 세션 수 이득을 얻는지 공개 벤치마크가 필요하다.
셋째, 냉각 방식과 모듈 높이가 표준화되는지 봐야 한다. 공랭 서버, 직접 액체 냉각 서버, 콜드플레이트 공유 설계는 서로 다른 기계적 제약을 갖는다. SOCAMM2가 특정 가속기 플랫폼에만 최적화되면 시장은 커지지만 호환성은 좁아진다.
넷째, 한국 공급망은 모듈 기판과 커넥터, 검사 장비에서 기회를 잡을 수 있는지 확인해야 한다. DRAM 다이만 공급하면 마진은 메모리 사이클에 묶인다. 시스템 레벨 검증 데이터를 같이 제공하면 고객 잠금 효과가 커진다.
오해 정리: SOCAMM2는 HBM 킬러가 아니라 RDIMM의 일부 영역을 압박한다
가장 흔한 오해는 SOCAMM2를 HBM 대체재로 보는 것이다. HBM은 GPU 또는 가속기 패키지 가까이에 붙어 수 TB/s급 대역폭을 제공하는 메모리다. SOCAMM2는 CPU-attached 메인 메모리 쪽의 전력과 면적을 줄이는 모듈이다. 두 메모리는 같은 AI 서버에 함께 들어갈 수 있고, 서로 다른 병목을 겨냥한다.
두 번째 오해는 LPDDR이면 서버 신뢰성이 부족하다는 단정이다. LPDDR은 원래 모바일 중심으로 발전했지만, 서버 적용 여부는 DRAM 셀 이름보다 시스템 RAS, 컨트롤러 지원, 모듈 관리, 검증 범위가 결정한다. SOCAMM2가 성공하려면 LPDDR의 낮은 전력만 보여주는 것이 아니라 서버 운영자가 신뢰할 수 있는 장애 모델을 보여줘야 한다.
세 번째 오해는 모듈이 작으면 항상 싸다는 생각이다. 면적과 전력이 줄어도 고밀도 LPDDR 패키지, 특수 기판, 압축 커넥터, 열 솔루션, 플랫폼 검증 비용이 붙는다. 초기 SOCAMM2는 범용 RDIMM보다 비쌀 수 있다. 따라서 채택 논리는 부품 단가가 아니라 랙 전력, 냉각, 공간, 서비스 시간까지 포함한 시스템 비용이어야 한다.
팩트체크 노트
| Claim | Verified value | Source | As of |
|---|---|---|---|
| JEDEC announced JESD318 CAMM2 publication on December 5, 2023 and described DDR5 CAMM2 plus LPDDR5/5X CAMM2 requirements in one standard. | JESD318 CAMM2 publication announced 2023-12-05, covering DDR5 SDRAM CAMM2 and LPDDR5/5X SDRAM CAMM2 electrical and mechanical requirements. | JEDEC Business Wire release | 2026-07-01 |
| Micron LPCAMM2 public material lists speeds up to 9,600 Mb/s and 64% space savings versus a dual-stacked DDR5 SODIMM volume comparison. | Up to 9,600 Mb/s, 64% space savings, comparison uses 32,808 mm3 dual-stacked DDR5 SODIMM versus 11,934 mm3 LPCAMM2. | Micron LPCAMM2 product page | 2026-07-01 |
| Micron's LPCAMM2 technical brief lists module capacities of 16GB, 32GB, and 64GB. | Module Capacity: 16GB, 32GB, 64GB in Micron LPCAMM2 Product Specifications. | Micron LPCAMM2 technical brief | 2026-07-01 |
| Micron announced customer samples of 256GB SOCAMM2 on March 3, 2026 and stated 2TB LPDRAM per 8-channel CPU. | 256GB SOCAMM2 customer samples, 2TB LPDRAM per 8-channel CPU, announced 2026-03-03. | Micron 256GB SOCAMM2 press release | 2026-07-01 |
| Micron states 256GB SOCAMM2 uses one-third the power and one-third the footprint compared with equivalent RDIMMs. | One-third power and one-third footprint versus equivalent RDIMMs, stated in Micron March 2026 release with footnote conditions. | Micron 256GB SOCAMM2 press release | 2026-07-01 |
| Micron product page states 256GB SOCAMM2 delivers 33% more capacity than its predecessor and uses 1-gamma DRAM process technology. | 256GB SOCAMM2, 33% more capacity in the same compact footprint as predecessor, leverages Micron 1-gamma DRAM process. | Micron SOCAMM2 product page | 2026-07-01 |
| SK hynix announced mass production of 192GB SOCAMM2 on April 19, 2026. | 192GB SOCAMM2 mass production announced 2026-04-19, based on 1cnm LPDDR5X low-power DRAM. | SK hynix SOCAMM2 PRNewswire release | 2026-07-01 |
원문 링크
- JEDEC Business Wire release (2023-12-05 - JESD318 CAMM2 publication, DDR5 and LPDDR5/5X CAMM2 scope, connector and stackable CAMM2 description)
- Micron LPCAMM2 product page (2026-07-01 - LPCAMM2 speed, space, active power and standby power claims)
- Micron LPCAMM2 technical brief (2023-12-01 - LPCAMM2 module capacity, voltage, speed forecast, power comparison and physical volume comparison)
- Micron 256GB SOCAMM2 press release (2026-03-03 - 256GB SOCAMM2 sampling, 2TB per 8-channel CPU, one-third power and footprint versus RDIMM)
- Micron SOCAMM2 product page (2026-07-01 - SOCAMM2 product positioning, 192GB and 256GB capacity statements, 1-gamma process statement)
- Samsung SOCAMM2 product page (2026-07-01 - Samsung SOCAMM2 positioning for compact detachable data center memory)
- SK hynix SOCAMM2 PRNewswire release (2026-04-19 - SK hynix 192GB SOCAMM2 mass production and 1cnm LPDDR5X statement)
- Lenovo ThinkPad P1 Gen 7 press release (2024-04-23 - Client LPCAMM2 adoption context and platform timing)
이미지와 원본 자료 후보
- Micron SOCAMM2 product image (company_press - Company product image, reuse rights not automatically granted - link only, do not embed)
- Samsung SOCAMM2 module product image (company_press - Company product page image, reuse rights unclear - link only, do not embed)
- Micron LPCAMM2 technical brief Figure 1 (link_only - Copyright Micron, permission not stated for reuse - link only, do not embed)
- JEDEC CAMM2 announcement page (standard_public - Text announcement public, diagrams not provided - link only, do not embed)
