링크 요약:
엔비디아에서 출시한 채굴용 카드인 CMP 170HX는 8GB/10GB 두 모델이 있는데
이게 알고보면 64GB/80GB HBM2e가 장착된 카드를 소프트웨어로 락 걸어서 8GB/10GB 로 쓰게 만든거라고 합니다.
그걸 중국 해커가 뚫어냄..
결국 64GB/80GB의 AI용 카드가 되어버림 ㄷㄷㄷ
링크 요약:
엔비디아에서 출시한 채굴용 카드인 CMP 170HX는 8GB/10GB 두 모델이 있는데
이게 알고보면 64GB/80GB HBM2e가 장착된 카드를 소프트웨어로 락 걸어서 8GB/10GB 로 쓰게 만든거라고 합니다.
그걸 중국 해커가 뚫어냄..
결국 64GB/80GB의 AI용 카드가 되어버림 ㄷㄷㄷ
그쵸 이미 다 싹쓸이 해갔거나 가격메리트가 없는선까지 가격이 올랐겠죠
오.. 200만원대의 물건도 있네요... 그 가격이면 괜찮은것 같네요
실제로 가전도 상위버전과 내부는 동일하고 겉모양만 다르고...펌웨어로 급나눠서 파는거라...몇년전에 LG 티비가 모델 펌웨어를 바꿧더나 3DTV가 됐다는등,,,이야가가 많았죠.
지금은 더 펌웨어 보안을 꼼꼼하게 하겠지만..생산단가 문제로 그냥 SW 수정이 더 저렴하니 그런거죠.
대표적인게 테슬라.., 상위트림과 하위트림은 HW는 동일. 급나누는건 SW로 락을 걸어놓고 락을 풀어주는걸로 트림 구분.,
수정>링크 지웠습니다
당시 모든타겟은 64GB/80GB 타겟으로 고사양으로 만듭니다.
문제는 메모리 문제도 잇고, 제작공정의 문제도 잇어서, 원래 타겟이었던 64GB/80GB에 미치지 못하는 현상이 발생합니다.
그래서 그걸 쓸수있는(정상적인 QC를 통과한) 부분만 뽑아서 스펙다운을 만든뒤 팝니다.
실제로 인텔의 CPU시리즈도 같은 맥락으로 버전을 만드는거죠.
즉, 저 CMP 170HX는 8GB/10GB의 모델은 실제로 64GB/80GB 타겟 모델이었으나., QC 문제로 8GB/10GB 모델로 만들어져 있다는 뜻입니다.
여기서 궁금증이 잇으실겁니다. 그런데 왜! 하향 모델인에 갭차이가 크냐?! 라는 의문이 당연합니다.
메모리는 연속된 QC 통과가 되어야 정상입니다.
즉, 64GB/80GB 타겟으로 만들었지만. 연속된 메모리 QC 통과가 된 메모리가 8GB/10GB 크기 이기 때문에 저 메모리로 출시 된겁니다.
다른 메모리로 락을 해제한다? 0을 넣고 1이 나오고, 0을 넣고 7이 나와서 대환장 파티는 알게 되실겁니다.
A100대비 성능만 모자른게 아니라 메모리 신뢰성도 문제가 되는거였어요?
그래서 2020년을 기준으로 엔비디아에서 게임용 GTX 시리즈의 메모리테스트를 축소 한다고 한겁니다.
학습용/추론용만 전수 메모리테스트를 진행하고, 게임용에 관해서는 일부만 진행한다고 이미 발표 했었죠.
이미 해당 모델은 채굴용으로 개발된 모델입니다. 채굴용은 수학계산을 통해서 답을 만들고 업로드하는 용도입니다.
즉, 메모리에 0을 넣으면 0이 나오고, 1을 넣으면 1이 나오는 메모리 신뢰성테스트가 완료 된 상태인거죠.
다만 그 신뢰성 테스트가 8GB/10GB만 개런티가 된다는 뜻입니다.
그걸 64GB/80GB으로 언락해서 LLM 학습으로 돌린다?
신뢰성을 통과하지 못해서, 하향 락킹이 걸려있는걸 풀어서 학습하면 어떤 방식으로 오류가 될지는 아무도 알수는 없는거죠.