예를들어, 하이퍼스케일러(글로벌 대형 IT기업) 학습 AI가 NVDA H100으로 초기에 데이타센터를 구축하고 학습하는데 1년, H200으로 하면 6개월, 최신 GB200으로 하면 1개월 걸리는데 1개 데이타센터에 위의 H100/H200/GB200이 혼재되어있다면, 어떤 일이 벌어질까요 ?
구글/엔트로픽 같이 별도 솔루션을 개발해서 컴퓨팅 자원을 로드에 따라 자동분배하고 있는데 xAI같은 곳은 GB200은 빨리 학습을 끝냈는데 H100이 설치된 Rack은 2개월이 더 걸린다면 어떻게 될까요?
컴퓨팅 환경에 따라, 학습속도에서 3개월~6개월 차이난다면, 하이퍼스케일러는 최대한 최고의 성능을 유지하기 위해 노력할 것입니다. 최신 GPU/HBM에 Rack-to-Rack, Data center-to-Data center를 연결하는 고속네트워킹까지 모든 것을 최고 성능을 유지하기 위해 노력할 것입니다.
NVDA가 요구하는 양이 많다보니, 애플이 1위 고객에서 밀려나니 INTC에 덜 중요한 칩을 맡길 것으로 보이고
TSMC는 밀려드는 주문에 증설속도를 높여도 한계가 있습니다. 가뭄으로 물부족 사태까지 겹쳤습니다.
AMD도 TSMC에서 자신들의 요구보다 적게 물량 배분을 받으니 삼성 문을 두드리는 것입니다.
AVGO, MRVL로도 부족하니 Mediatek, 대만 중소업체에 AI칩 설계를 맡기는 것입니다.
CPU:GPU 비율이 1:4였던 것이 1:2로 바뀌는 추세라고 하니 INTC, AMD도 실적이 좋아질 것이라고 합니다.
ARM IP도 많이 사용하니 ARM도 덩달아 상승하고 있습니다.
삼성전자, SK하이닉스, MU는 HBM뿐만 아니라 DDR5/LPDDR5X/NAND/e-SSD/c-SSD 만드는데 공장 증설에 필요한 자금까지 지원받고 해약시 위약금을 높여도 OK하고 선수금까지 지불하고 자신들 전용라인까지 요구하면서까지 장기 계약을 하고 있습니다.
Commodity였던 메모리가 수주산업으로 바뀐 오늘날 시장환경입니다. 구조적인 변화입니다.
폭발적인 AI데이타센터 수요가 이런 구조를 만들고 있습니다.
글로벌IB와 국내 증권사들은 이 추세가 현재까지는 27년말까지 이어질 것이라고 확신하는 것 같습니다.
문제는 AI데이타센터 수요만으로 이런 현상이 발생했다는 것입니다.
학습AI뿐만 아니라 앞으로는 추론 AI가 더 큰 시장이라고 하고 Edge/단말기단으로 내려온 Agent AI도 증가하고 자동차도 컴퓨터화되는 추세니 반도체/메모리 수요는 지속 높아집니다. 방사선에 장기간 신뢰성이 확보해야하니 우주용 반도체는 지상가격보다 100배 가격으로 유통되고 있다고 합니다.
고전압 환경과 발열이나 온도에 강한 화합물반도체 시장도 커지고 수많은 ioT와 로봇, 자동차, 각종 단말기의 고성능, 대용량 메모리 수요는 지속적인 상황입니다. 통신장비도 이제는 거의 컴퓨팅화되고 있습니다.
수요보다 공급이 부족한 상황이 언제까지 이어질 것인가 ?
이를 예상하는 것은 매우 어렵습니다. 그간 모두 증설을 하지않다가 수요 폭발로 공장을 증설중이지만 공장 건설에는 시간이 걸리고 양산까지는 또 시간이 흐릅니다. 그것이 27년말, 28년, 어떤 분석기관은 2030년까지 수요보다 공급이 부족할 것이라고 하고 있습니다. 지금 AI데이타센터 공급망관련해서 모든 섹터/분야가 Shortage와 함께 가격인상이 진행중입니다.
하이퍼스케일러 CAPEX 투자가 27.2Q or 3Q부터는 줄어들 것이라고 하지만 이것도 예상입니다.
학습 AI, 추론 AI, Agent AI든 아직은 성장하는 시장입니다.
이 시장은 인간 욕망의 끝은 어디까지인가 ?를 상상하는 것과 같은 시장이라고 봅니다.
시장 분석기관, 글로벌 IB, 시장 전문가, 현업에 계신 분들도 계속 수정 예측하는 시장입니다.
삼성전자, SK하이닉스 예상 실적 수정하는 보고서 올해, 엄청 많이 나왔습니다. 2주만에 바뀌는 시장보고서입니다.
2Q에도 가격상승이 지속되고 그 폭도 증가했기 때문입니다.