CLIEN

본문 바로가기 메뉴 바로가기 보기설정 테마설정
톺아보기 공감글
커뮤니티 커뮤니티전체 C 모두의광장 F 모두의공원 I 사진게시판 Q 아무거나질문 D 정보와자료 N 새로운소식 T 유용한사이트 P 자료실 E 강좌/사용기 L 팁과강좌 U 사용기 · 체험단사용기 W 사고팔고 J 알뜰구매 S 회원중고장터 B 직접홍보 · 보험상담실 H 클리앙홈
소모임 소모임전체 ·굴러간당 ·아이포니앙 ·주식한당 ·방탄소년당 ·MaClien ·일본산당 ·개발한당 ·자전거당 ·AI당 ·이륜차당 ·안드로메당 ·소시당 ·콘솔한당 ·바다건너당 ·소셜게임한당 ·PC튜닝한당 ·키보드당 ·테니스친당 ·물고기당 ·VR당 ·창업한당 ·ADHD당 ·나혼자산당 ·갖고다닌당 ·육아당 ·노젓는당 ·골프당 ·클다방 ·나스당 ·냐옹이당 ·IoT당 ·어학당 ·레고당 ·방송한당 ·라즈베리파이당 ·달린당 ·여행을떠난당 ·3D메이킹 ·X세대당 ·AI그림당 ·날아간당 ·사과시계당 ·배드민턴당 ·야구당 ·농구당 ·블랙베리당 ·곰돌이당 ·비어있당 ·FM당구당 ·블록체인당 ·보드게임당 ·활자중독당 ·볼링친당 ·캠핑간당 ·문명하셨당 ·클래시앙 ·요리한당 ·쿠키런당 ·대구당 ·DANGER당 ·뚝딱뚝당 ·디아블로당 ·개판이당 ·동숲한당 ·날아올랑 ·전기자전거당 ·e북본당 ·이브한당 ·패셔니앙 ·도시어부당 ·FM한당 ·맛있겠당 ·포뮬러당 ·젬워한당 ·걸그룹당 ·안경쓴당 ·차턴당 ·총쏜당 ·땀흘린당 ·하스스톤한당 ·히어로즈한당 ·인스타한당 ·KARA당 ·꼬들한당 ·덕질한당 ·가죽당 ·리눅서당 ·LOLien ·Mabinogien ·임시소모임 ·미드당 ·밀리터리당 ·땅판당 ·헌팅한당 ·오른당 ·영화본당 ·MTG한당 ·소리당 ·노키앙 ·적는당 ·찰칵찍당 ·그림그린당 ·소풍간당 ·심는당 ·패스오브엑자일당 ·품앱이당 ·리듬탄당 ·Sea마당 ·SimSim하당 ·심야식당 ·윈태블릿당 ·미끄러진당 ·축구당 ·스타한당 ·스팀한당 ·파도탄당 ·퐁당퐁당 ·테스트당 ·빨콩이당 ·공대시계당 ·터치패드당 ·트윗당 ·가상화폐당 ·시계찬당 ·WebOs당 ·위스키당 ·와인마신당 ·WOW당 ·윈폰이당
임시소모임
고객지원
  • 게시물 삭제 요청
  • 불법촬영물등 신고
  • 쪽지 신고
  • 닉네임 신고
  • 제보 및 기타 제안
© CLIEN.NET
공지[점검] 잠시후 서비스 점검을 위해 약 30분간 접속이 차단됩니다. (금일 18:15 ~ 18:45)

모두의공원

잡담) AMD 로컬 LLM 공개된 기록과 비교성능 예... 3

2026-04-27 10:39:12 수정일 : 2026-04-27 10:44:47 92.♡.186.150
에일리언

마침 요즘 이미 5070i 돌리고 여러가지 테스트 해주신 분들 데이터가 있어서 봤는데...

https://www.clien.net/service/board/use/19179765CLIEN


제 rx9070xt 는 55토큰/s 본게 답니다.

딱 5070ti 절반...

왜그러냐고 물어봤더니... GDDR7 보다 느린 GDDR6,  그리고 생태계가 CUDA라 거기 대응하는 AMD는 ROCm 이란게 있는데 이게 nVdia 만큼 성능이 안나와서 또 성능저하라 2.2배 까지 성능차이가 날수 있다네요. GEMMA4 로컬 작동으로 얻은 답입니다.


장점(?) 이... 어차피 연산이 느려서 메인보드 pcie 대역이 병목이 될 가능성이 nVidia 보다 훨씬 적다하네요

 (-.- 어... 그래 기쁘군요;;; )


뭐... 별수없죠.


그래도 가능한 글카두개 꽂아도 성능좀 나오는 고급보드라도 가볼까 하다 그것도 그만두고... 느린대역이라도 메인메모리보다느 낫대서 글카하나 남는거 더 꽂아 주려구요. 

4.0 x4라도 성능저하는 3~5%로 미미하고 메모리는 커지니 추론에는 유용하다고해서요.

간간히 코딩보조로 로컬에서 쓰는게 목표에요. 저는 실사용하려구요. 그리 대단한 코딩은 안하니까요.


전 다른 그래픽 디자인 (퓨전 360, 3디프린팅) 등도 하니까. 복잡한 모델 돌리는데 좋고, 나중엔 이미지 생성에도 쓸수 있을까 궁금하네요


음... 다만 그러고나면 슬롯이 부족해서 썬더볼트는 nvme 설치 자리에서 별도 pcie 슬롯을 빼서 pcie4.0 x4를 제공해줘야 할 듯합니다.

마침 정보도 잘 정리된 글이 있었죠. 출처와 글과 같은 방식으로 늘려서 전 거기 썬더볼트 카드를 쓰려구요.


하여간 괴랄한 부품은 알리에 정말 다 있습니다.

1000029394.jpg


....


에일리언 님의 게시글 댓글
SIGNATURE
일본★ 동경 거주자 입니다. 
먹고 살거리만 있었으면 바로 귀국했겠지만, 일본에 애착도 많습니다.
일본 및 국제 뉴스에 관심이 많아요. 해외에서 보는 한국 모습등도요.
가능한 사실관계를 중시하나, 직관도 즐깁니다. (듣다 보면 왠지 지구가 평평한 것도 같고...?)
교회는 잘 안가지만 사랑에 기대하며,  FSM및, MtoP교단도 좋아합니다.

기타...
2021.5-7 4개월 동안 참 별꼴을 다 봤네... 법사위 사태를 보니... 민주당이 욕해서 바뀔지 의문.
2021.9 민주당엔 한줌의 개혁 세력과 나머지 수박들의 모임이 되어 버렸다. 새로운 시작을 이재명에게 기대하나 야당과 박빙이라 차기 정권을 예측하기 어려운 위기 인 듯.
- 최강욱 대표를 포함한 열린당의 역할 확대를 기대.
2022.11 다음 정권이 부디 나라 이름 바뀐 상태로 시작되지 않기만을 바라는 중.
서명 더 보기 서명 가리기
  • 주소복사
  • Facebook
  • X(Twitter)
댓글 • [3]
fallout
IP 121.♡.150.107
11:11 2026-04-27 11:11:01
·
백엔드가 rocm보다 vulkan이 빠른 경우가 있습니다 ㅋㅋ
vllm말고 llama.cpp쓸땐 vulkan이 더 빠른..
에일리언
IP 92.♡.186.150
11:40 2026-04-27 11:40:45
·
@fallout님 감사합니다. 그땐 참고해서 설정해 봐야겠네요
외국인노동자2025
IP 45.♡.141.195
16:35 2026-04-27 16:35:14
·
음. 5070TI는 한급 위 gpu인데요….가격차이가 나고 그에 따른 연산 코어수가…

그대신 암드는 코어 9070xt하고 똑같아도 램 32gb 넣은 R9700이 1300달러. 이게 AI 사용에 좋습니다
새로운 댓글이 없습니다.
이미지 최대 업로드 용량 15 MB / 업로드 가능 확장자 jpg,gif,png,jpeg,webp
지나치게 큰 이미지의 크기는 조정될 수 있습니다.
목록으로
글쓰기
글쓰기
목록으로 댓글보기 이전글 다음글
아이디  ·  비밀번호 찾기 회원가입
이용규칙 운영알림판 운영소통 재검토요청 도움말 버그신고
개인정보처리방침 이용약관 책임의 한계와 법적고지 청소년 보호정책
©   •  CLIEN.NET
보안 강화를 위한 이메일 인증
안전한 서비스 이용을 위해 이메일 인증을 완료해 주세요. 현재 회원님은 이메일 인증이 완료되지 않은 상태입니다.
최근 급증하는 해킹 및 도용 시도로부터 계정을 보호하기 위해 인증 절차가 강화되었습니다.

  • 이메일 미인증 시 글쓰기, 댓글 작성 등 게시판 활동이 제한됩니다.
  • 이후 새로운 기기에서 로그인할 때마다 반드시 이메일 인증을 거쳐야 합니다.
  • 2단계 인증 사용 회원도 최초 1회는 반드시 인증하여야 합니다.
  • 개인정보에서도 이메일 인증을 할 수 있습니다.
지금 이메일 인증하기
등록된 이메일 주소를 확인하고 인증번호를 입력하여
인증을 완료해 주세요.