DGX Spark 랑 같은 칩셋으로 알고 있습니다. 살짝 차이가는게 몇개 있을뿐, 이미 해당 성능을 하는 제품들이 AMD 등에서도 나왔지만 기본적으로 메모리 속도가 느려서 기존의 ChatGPT 나 Gemini, Claude 등에 익숙한 사람들에게는 매력적이지 못하고 가격도 DGX Spark 생각하면 1TB 모델이 대략 800만원대 하겠죠 (모니터 없는 DGX Spark 기반 서드파트 제품이 SSD 1TB 기준 400만원 초반에 팔렸지만 메모리 가격상승으로 현재는 700만원에 육박하죠, 4TB 제품은 900만원대고요). 램속도가 빠르다는 Mac book Pro M5 Max 128 GB 로도 로컬모델이 답답한 상황이라 로컬모델의 성능에 따라 승패가 갈릴거 같습니다.
@When2Fly님 DGX Spark 형제기 GX10이랑 AMD AI Pro 395 웍스테이션을 둘 다 LLM 돌리려고 보유 중입니다...
아직은 활성 파라미터 3B 이상 모델은 쾌적하게 돌릴 수 없다...가 제 판단입니다. 앞으로 계속 좋아지겠죠..양자화 저항성 높은 모델들도 나오고 있다고 하니...
When2Fly
IP 115.♡.136.26
10:50
2026-06-09 10:50:42
·
@겜광사랑님 반갑습니다! 저도 ASUS GX10 사용하고 있어요. 서빙모델에 따라 편차가 심한데 ollama 는 진짜 못쓸정도고요. 그나마 TRT LLM 로 서빙을 하면 좀 괜찮긴 한데 지원되는 모델이 얼마 없고 아쉬울 따름입니다. 확실히 RAM 속도가 중요한거 같긴해요.
뭐 MacOS도 놀고만 있지는 않을 껍니다.
결국 WinTel 진영에서 WinVida 진영으로 바뀌어서 Apple과 경쟁하지 않을지 ?
아무리 생각해도 너무 비쌀거 같긴 해요 ㅋㅋ
이미 해당 성능을 하는 제품들이 AMD 등에서도 나왔지만 기본적으로 메모리 속도가 느려서 기존의 ChatGPT 나 Gemini, Claude 등에 익숙한 사람들에게는 매력적이지 못하고 가격도 DGX Spark 생각하면 1TB 모델이 대략 800만원대 하겠죠 (모니터 없는 DGX Spark 기반 서드파트 제품이 SSD 1TB 기준 400만원 초반에 팔렸지만 메모리 가격상승으로 현재는 700만원에 육박하죠, 4TB 제품은 900만원대고요). 램속도가 빠르다는 Mac book Pro M5 Max 128 GB 로도 로컬모델이 답답한 상황이라
로컬모델의 성능에 따라 승패가 갈릴거 같습니다.
아직은 활성 파라미터 3B 이상 모델은 쾌적하게 돌릴 수 없다...가 제 판단입니다. 앞으로 계속 좋아지겠죠..양자화 저항성 높은 모델들도 나오고 있다고 하니...
https://www.clien.net/service/board/park/18602361CLIEN