질문 : 젬마6가 나올즈음 온디바이스 llm 세상이 되고 그럼 메모리 사용량은 어떻게 될까? 현재 메모리 수요는 구글 같은 큰 회사의 시설 투자가 이끌어가는데 미래에도 그럴까??

답:

온디바이스 LLM 시장 구조 변화와 메모리 수급 긴장 관계를 분석했습니다온디바이스 LLM 시장 구조 변화와 메모리 수급 긴장 관계를 분석했습니다

좋은 질문이에요. 결론부터 말씀드리면 "빅테크가 이끈다"는 구조 자체는 안 바뀌고, 어떤 빅테크가 이끄느냐가 바뀔 가능성이 높습니다. 그리고 온디바이스 LLM이 커진다고 메모리 시장이 편해지는 게 아니라 오히려 다른 방식으로 더 빡빡해질 수 있어요.

현재 상황 (2026)
지금 메모리 시장은 사실상 "구조적 이상 현상" 상태예요. AI 데이터센터가 2026년 고성능 메모리 생산 용량의 최대 70%를 소비할 것으로 분석되고 있고, HBM이 일반 소비자용 D램보다 3~5배 높은 마진을 내기 때문에 삼성·SK하이닉스·마이크론이 생산을 체계적으로 HBM 쪽으로 재배치하는 중입니다. 그 여파로 일부 제조사는 모델명은 유지하면서 중저가 기기의 RAM/저장공간을 슬쩍 줄이고 있고, 애플 M3 맥북의 8GB가 타사 16GB와 맞먹는다는 식으로 "효율로 용량을 커버"하는 전략까지 나오고 있어요. Pneda + 3

온디바이스 LLM 시대가 오면?

1. 수요 축이 하나 더 생김, 사라지는 게 아님
   HBM은 서버용 D램 웨이퍼를 잡아먹고, 온디바이스 LLM은 LPDDR(모바일)/통합메모리(Mac류)를 잡아먹습니다. 둘 다 결국 같은 3사(삼성/SK하이닉스/마이크론)의 같은 웨이퍼 파이프라인을 놓고 경쟁하는 구조라, 온디바이스 붐이 커져도 "탈-빅테크 분산화"가 아니라 경쟁 수요가 하나 더 늘어나는 것에 가깝습니다.
2. 드라이버가 클라우드(Google/MS/Meta) → 디바이스 OEM(Apple/Samsung/Qualcomm)로 일부 이동
   지금은 구글·MS·아마존 같은 하이퍼스케일러의 데이터센터 CapEx가 HBM 수요를 결정하죠. 온디바이스 LLM이 표준이 되면 아이폰/갤럭시/윈도우 코파일럿+PC의 RAM 스펙(8GB→16GB→24GB 기본값 상향)이 LPDDR 수요를 결정하는 또 다른 축이 됩니다. 즉 "빅테크가 이끈다"는 본질은 유지되고, 클라우드 자본지출 대신 디바이스 판매량×RAM 스펙이 변수로 추가되는 거예요.
3. 역설: 온디바이스가 뜰수록 소비자가 체감하는 가격 압박은 더 커질 수 있음
   지금 HBM이 서버 D램을 잠식해서 소비자용 D램이 품귀인데, 여기에 "폰/PC마다 로컬 LLM 돌리려고 RAM을 2배로 늘려야 한다"는 수요까지 겹치면 같은 파운드리 용량을 두고 데이터센터 vs 디바이스 제조사가 경쟁하는 그림이 됩니다. 님이 쓰시는 QAT(양자화) 모델처럼 메모리 풋프린트를 줄이는 기술이 오히려 이 경쟁을 완화하는 핵심 변수가 될 겁니다.
4. 온디바이스 특화 메모리 기술의 부상
   MRAM, ReRAM 같은 신기술이 IoT·자동차·엣지 AI 쪽으로 확장 중이라, 장기적으로는 온디바이스 LLM 전용으로 최적화된 저전력·비휘발성 메모리 기술이 별도 트랙으로 성장할 가능성도 있습니다. 이건 HBM 경쟁 트랙과는 결이 달라서, 여기서는 오히려 새로운 플레이어(온세미, 에버스핀 같은 니치 업체)가 존재감을 키울 여지가 있어요. TechInsights

요약: 구글 같은 "한 축의 절대적 지배"에서 "클라우드 자본지출 + 디바이스 OEM RAM 스펙"이라는 두 축 경쟁 구조로 바뀔 가능성이 높지, 빅테크 투자가 시장을 안 이끄는 세상은 아마 안 올 것 같습니다. 다만 웨이퍼 공급이 유한하니 두 축이 서로의 파이를 갉아먹는 긴장 관계가 될 거예요.