HBF는 HBM과는 달리 DRAM을 쌓는게 아니라 NAND flash를 쌓는건데요, HBM 보다 훨씬 많은 메모리 용량을 쌓을 수 있어서 (HBM: 모듈당 48 ~ 64 GB vs. HBF: 512 GB or higher) 앞으로 차세대 AI 모델용으로 각광을 받을 것 같습니다.
NAND가 용량면으로는 좋은데 메모리에 쓰기를 너무 자주하면 성능이 떨어지는 단점이 있다고 하네요. 그래서 AI training 에서는 불리하지만, AI 추론 (inference)할 때는 이미 fix된 모델을 자주 읽기만 하면 돼서 (자주 쓰기 없이) HBF가 강점을 보일 거라는 얘기.
HBF 기술을 선도하는 것도 우리의 SK Hynix 이고... 몇일 전에 FMS 학회에서 SanDisk랑 발표를 했는데, Google도 consortium에 참여한다고 하고, 그런데 삼성전자는 뭐하고 있나요??!
암튼 HBF vs. HBM 에 관련하여 전문가들의 고견을 듣고 싶습니다.
미래기술은 정답이 없어서, 답 없는 질문은 아질게가 아닙니다.
다들 다른 예측들을 답으로 낼테니까요.
삼성전자는 HBM5보다 8배 빠른 zNAND-O를 같은 시기에 내놨다는데 HBF의 대항마가 아닌가 싶습니다.
근데 HBF와 성능적인 비교자료는 안보이네요.
HBM은 GPU와 밀접하게 연산유닛과 함께 돌아가는 정말 중요한것이고 우리 인간이 일하는 작업장으로 생각하면 책상입니다.
HBF는 저장공간인 낸드를 병렬화해서 속도를 좀 높인건데 HBM의 메모리와는 비교할수 없이 느립니다. 중간에 일반 낸드에서 데이터 꺼내는것 보다 빠르기 때문에 HBF는 완충 역할을 해야 합니다.
기존-GPU<->HBM<----------->NAND
HBF적용-GPU<->HBM<----->HBF<----------->NAND
HBM은 엄청 빨라 바로바로 처리 빠르게 하고 근시일에 썼던 자료들, 언제 또 꺼낼수 있는것들은 HBF로 활용. 바로 꺼내쓰지 않는 오래된 데이터는 NAND로 저장.
근데 자금이 모자란다 하면 무저건 HBM을 우선 써야죠. 더 성능 좋고 돈이 남아돌아 하면 HBF를 추가 하는거죠.
기술 개발로 메모리 수요가 줄어서 어려워지는거 아니냐는 걱정하는 분들도 있지만 현재 기술로는 어떤 방법을 써도 생산되는 모든 메모리가 사용되는 상태이기 때문에 기술을 주도하고 앞서나가는게 필요하죠.