RTX5090 윈도PC vs 맥스튜디오 울트라, ai개발/작업용으로 뭐가 더 우수한가요?

Question

당연히 동일한 비용을 들여서 셋업한걸로 비교해야겠죠...

RTX5090 이 900만원 넘길래 여쭤봄

ㄴhttps://prod.danawa.com/info/?pcode=99128606&cate=112753 (최저가 RTX5090)

아래 유투브롤 보고

대체 5090 얼마길래? 하고 다나와 검색해봤다가 900만원대길래 놀랬네요

pluto248 · Answer

LLM 모델을 어떤걸 쓰실껀지가 중요한데, qwen만 쓸꺼고 학습 같은 내용이 많으시면 5090에 메모리 최소 128G+이고, 좀 다양한 LLM 모델 중심이고 학습은 잘 안하실꺼면 맥스튜디오 울트라 256GB를 추천드립니다.

행복주식회사 · Answer

1. 무슨 작업 및 사용 모델에 따라 다르겠지만 윈도우는 최소 2대 병렬로 묶어야 실사용 속도 나옵니다.

2. Vram 없는 맥은 메인 메모리와 공유하고 같은 llm 모델이라 하더라도 맥 실리콘칩 전용으로 최적화 모델도 있어서 가성비가 좋다고 하는 것입니다.

3. 돈 없으면 Chunking, Quantization, Pruning, Key-Value Cache, rag 등 삽질 많이 해서 구성하면 좀 낫기는 한데.......돈 있으면 의미 없긴 해요.

Mr.UN · Answer

Ai를 이용해서 코딩할 경우를 말씀하시는 것이라면 그냥 32GB 정도의 메모리를 넣은 오래된 PC로 프론티어 모델 돌려도 생산성에 아무런 차이도 없습니다.
Q4 정도로 맛보기를 한다면 모를까 로컬 LLM을 이용해서 코딩하는 건 품질도 못 따라오고 개인이 기천만원대 까지 올라버린 장비를 들여서 할일은 아닌 듯 합니다.
다만 개인이 최대한 비용을 줄여서 직접 LLM을 만들어 볼 경우에는 DGX 스파크나 맥스튜디오가 현실적 대안입니다.

참고로 과거 맥스튜디오에서 로컬 LLM의 아웃풋 속도는 업무는 불가능할 정도였는데, 이번 M5 Ultra는 RTX 3090 대비 1/2 정도 속도까지는 나오고 있으며 업무에 써볼만한 수준까지는 온 것으로 보입니다. 다만 Q4 모델을 쓰는 정도라면 당연히 RTX3090~5090 쪽의 압승입니다.

32K 토큰 입력 기준 생성 속도
- Qwen3 14B, 4비트: 55.4토큰/초
- Qwen3.8 27B, 4비트: 42.6토큰/초
- Qwen3.6 35B-A3B, 4비트 MoE: 109.1토큰/초
- Qwen3.5 122B-A10B, 4비트 MoE: 65.3토큰/초
- Gemma 4 31B, 16비트: 13.6토큰/초

이니셜225 · Answer

128G 짜리 m5max 사용중이지만, 배치 또는 속도 중요하다면 5090, 다양한 공부라면 고용량 맥이나 엣지류. 괜히 엔비디아 주가 오르는게 아니라는걸 실무에서 배치 돌려보시면 바로 느낄거 같습니다. 어차피 32G 초과분들은 실무에서 쓰려면 6000 급 써야해서 현실성이 많이 떨어집니다.

초코곰 · Answer

cuda가 필요한 환경이면 어쩔 수 없이 nvidia죠

RTX5090 윈도PC vs 맥스튜디오 울트라, ai개발/작업용으로 뭐가 더 우수한가요?

댓글 8

아무거나질문 최근 글