· 톺아보기

맥 스튜디오 신형 사서 로컬 llm 굴리고 싶네요

타용기타 ·

조회 4,578 · 공감 0 · 댓글 10

메모리 대역폭이 1.2테라나 되어서

어지간한 로컬 llm들은 잘 돌아가겠더라고요.


거의 뭐 기존에 저려미 llm용으로 쓰이던

Dgx 스파크,

라이젠 395

맥스튜디오 m3울은 비교도 안되던 수준이죠.


그런데도 고작? 1800만원밖에? 안하더라고요.


저 사양을 엔비디아로 맞출려면 가격이 몇배 뛸텐데 말이죠 


돈만 있었으면 눈 딱 감고 바로 지르고 싶은데

아쉽네요.. ㅋㅋㅋ

댓글 10

  1. hidnbox ·
    뭔가 생산적인 걸 할 수 있으면 큰 마음먹고 투자할 수 도 있겠는데
    깨작거리는 거 말고는 하질 못하겠네요 ~~
  2. 타용기타 ·
    @hidnbox님 저도 ai를 좀 엉성하게 쓰고 있습니다 ㅋㅋ
  3. 뿌꾸빠 ·
    스파크를 1800만원어치 구성하면 성능이 어느정도인가요?
  4. 타용기타 ·
    @뿌꾸빠님 요즘은 1800만원으로 스파크 2대 겨우 살 수 있는 것 같은데
    그럼.. 그렇게 막 좋을 것 같지는 않네여
    메모리 대역폭이 273기가라..
  5. 뿌꾸빠 ·
    댓글 이미지
    제미나이 대답으로는
    AI엔지니어, 인프라 연구용은 스파크 2대가 낫고
    일반 개발자, 연구원, 개인 로컬 LLM 서빙용은 신형 맥스튜디오가 낫다고 하네요.
    이젠 1800만원이 합리적이라고 생각이 드는 시대네요 ㅎㅎ
  6. 외국인노동자2025 · · 공감 1
    아뇨. 프리필 성능 구리다는 소문 있습니다. 컨텍스트 늘면 예전 맥스튜디오 상황 반복됩니다....라고 하지만...
    이거 사려고 스파크 이베이에 내놓는 분들이 많기만 빌 뿐입니다. 2대 돌리고 싶어요...:)
  7. 타용기타 ·
    @외국인노동자2025님 저도 중고 장터 유심히 둘러 봐야겠군요 ㅋㅋ
  8. 지나가는아저씨 ·
    $10k 면 클로드 맥스 100개월친데 8년도 더 되네요ㅎ
  9. 타용기타 · · 공감 1
    @지나가는아저씨님 로컬 Ai의 최종 진화는 결국 구독형 Ai라는 슬픈 말이 있습니다 ㅠㅠ
  10. 버미파더 ·
    512g 구입하면 10년은 쓸 수 있을까요... ㅋㅎ

모두의공원 최근 글

모두의공원 목록 더 보기