CLIEN

본문 바로가기 메뉴 바로가기 보기설정 테마설정
톺아보기 공감글
커뮤니티 커뮤니티전체 C 모두의광장 F 모두의공원 I 사진게시판 Q 아무거나질문 D 정보와자료 N 새로운소식 T 유용한사이트 P 자료실 E 강좌/사용기 L 팁과강좌 U 사용기 · 체험단사용기 W 사고팔고 J 알뜰구매 S 회원중고장터 B 직접홍보 · 보험상담실 H 클리앙홈
소모임 소모임전체 ·굴러간당 ·주식한당 ·아이포니앙 ·MaClien ·일본산당 ·방탄소년당 ·자전거당 ·개발한당 ·소시당 ·이륜차당 ·안드로메당 ·나스당 ·걸그룹당 ·영화본당 ·골프당 ·가상화폐당 ·클다방 ·AI당 ·육아당 ·사과시계당 ·디아블로당 ·패스오브엑자일당 ·리눅서당 ·IoT당 ·젬워한당 ·노젓는당 ·창업한당 ·소셜게임한당 ·노키앙 ·축구당 ·윈폰이당 ·여행을떠난당 ·바다건너당 ·물고기당 ·라즈베리파이당 ·캠핑간당 ·패셔니앙 ·3D메이킹 ·X세대당 ·ADHD당 ·AI그림당 ·날아간당 ·배드민턴당 ·야구당 ·농구당 ·블랙베리당 ·곰돌이당 ·비어있당 ·FM당구당 ·블록체인당 ·보드게임당 ·활자중독당 ·볼링친당 ·냐옹이당 ·문명하셨당 ·클래시앙 ·콘솔한당 ·요리한당 ·쿠키런당 ·대구당 ·DANGER당 ·뚝딱뚝당 ·개판이당 ·동숲한당 ·날아올랑 ·전기자전거당 ·e북본당 ·갖고다닌당 ·이브한당 ·도시어부당 ·FM한당 ·맛있겠당 ·포뮬러당 ·안경쓴당 ·차턴당 ·총쏜당 ·땀흘린당 ·하스스톤한당 ·히어로즈한당 ·인스타한당 ·KARA당 ·키보드당 ·꼬들한당 ·덕질한당 ·어학당 ·가죽당 ·레고당 ·LOLien ·Mabinogien ·임시소모임 ·미드당 ·밀리터리당 ·땅판당 ·헌팅한당 ·오른당 ·MTG한당 ·소리당 ·적는당 ·방송한당 ·PC튜닝한당 ·찰칵찍당 ·그림그린당 ·소풍간당 ·심는당 ·품앱이당 ·리듬탄당 ·달린당 ·Sea마당 ·SimSim하당 ·심야식당 ·윈태블릿당 ·미끄러진당 ·나혼자산당 ·스타한당 ·스팀한당 ·파도탄당 ·퐁당퐁당 ·테니스친당 ·테스트당 ·빨콩이당 ·공대시계당 ·터치패드당 ·트윗당 ·VR당 ·시계찬당 ·WebOs당 ·위스키당 ·와인마신당 ·WOW당
임시소모임
고객지원
  • 게시물 삭제 요청
  • 불법촬영물등 신고
  • 쪽지 신고
  • 닉네임 신고
  • 제보 및 기타 제안
© CLIEN.NET
공지[점검] 잠시후 서비스 점검을 위해 약 30분간 접속이 차단됩니다. (금일 18:15 ~ 18:45)

모두의공원

구글 젬마4 테스트 후기, 로컬 1황입니다. 13

5
2026-04-03 04:01:05 수정일 : 2026-04-03 04:03:05 122.♡.56.205
천문공

남들이 해 놓은 육손 벤치나 세차장 벤치를 보니 잘 통과 하네요.


젬마4에 간단한 주제를 던져 글을 쓰게 해봤습니다.

.... 결과는...

헐... 입니다.


안 그래도 젬마가 한국어를 잘했는데,

이번에.... 미쳤네요.


괴물이 나와 버렸습니다.

Qwen3.5 보다 체감이 더 좋네요.


어차피 로컬 모델은 상상력이 제한 되어 있어서

도토리 키재기입니다.

대신 뭐가 중요하냐면,

작은 모델인 만큼 최대한 그 안에서 많은 지식이 있어야 하고,

사용자가 프롬프트를 통해 무엇을 원하는지 파악하고,

그에 맞는 답을 하는 것이 중요한데,

그걸 잘합니다.

지시 이행을 잘 한다는 말입니다.


GPU : 9070 16GB

모델 : Gemma 4-31B 의 4비트 GGUF 모델, 용량 18GB,

오프로딩해서 속도는 느렸지만 성능 확인 차 테스트에 쓰였고,

실 사용은 Gemma -4-26B MoE가 더 빠르니 이걸로 써야 할 것 같습니다.


천문공 님의 게시글 댓글
  • 주소복사
  • Facebook
  • X(Twitter)
댓글 • [13]
아띠팡
IP 58.♡.132.183
04-03 2026-04-03 04:16:15
·
저도 맥에서 해보려고 다운은 받았는데 lm studio에서 로딩이 실패해서 못해봤네유.. 너무 궁금합니다 ㅜ
천문공
IP 122.♡.56.205
04-03 2026-04-03 07:52:09
·
@아띠팡님
최신 CPP로 업데이트 받으면 된다고 합니다.

옵션 > runtime 에 들어가셔서 업데이트요.
호포트
IP 118.♡.11.238
04-06 2026-04-06 15:03:15
·
@아띠팡님 lm studion 설정가셔서 개발자옵션 활성화하시고 llama.cpp 최신버전으로 업데이트하면 사용가능합니다......
어머
IP 172.♡.58.248
04-03 2026-04-03 05:42:48
·
지금 시스템이 OpenAI 5.4 nano나 mini로 해놨는데 대충 테스트 해보디 잼마가 더 좋아 보입니다 ㄷㄷㄷ
천문공
IP 122.♡.56.205
04-03 2026-04-03 07:52:36
·
@어머님
그러니까요..ㄷㄷㄷ
dec207
IP 211.♡.147.251
04-03 2026-04-03 06:14:14
·
9070이 없어서요.. 몇줄짜리 글을 쓰게 하셨나요? 어떤 지식 분야의 글일까요?
천문공
IP 122.♡.56.205
04-03 2026-04-03 07:54:13
·
@dec207님
저처럼 오프로딩해서 쓰면 거기서 거깁니다. 굉장히 느리죠.
프롬프트 넣고... 한참 딴거 하고 있어야 됩니다.

26B MoE 모델은.. 4비트로 하면, 4060이나 5060 이어도 16GB 브램이면 될 것 같습니다.
봄이머무는언덕
IP 211.♡.155.75
04-03 2026-04-03 07:21:22
·
일단 9070이 있어야 하는군요 0◇0;;
행복하세
IP 220.♡.16.196
04-03 2026-04-03 08:20:18
·
그디어 로컬이란걸 한번해볼까하는데 4080이나 5070ti면 더나을까요?
천문공
IP 122.♡.56.205
04-03 2026-04-03 08:30:36
·
@행복하세님
브램이 비슷하면 모델 용량을 올릴 수 없어서 비슷할 겁니다.
다만 속도 면에서는 5070TI가 9070 보다... 못해도 30% 이상은 더 빠를 겁니다.
코바넘버원
IP 122.♡.171.244
04-03 2026-04-03 08:41:37
·
맥미니에서 돌아가려나요
호포트
IP 118.♡.11.50
04-07 2026-04-07 12:13:16
·
@코바넘버원님 램 32g면 26B정도 가능하실겁니다. 16g면 아래버전........
리얼고구마
IP 222.♡.98.130
04-03 2026-04-03 14:41:18 / 수정일: 2026-04-03 15:52:16
·
깊이있게 써보진 않았지만, 테스트용으로 Ollama, LM Studio에 VSCode + Continue로 돌려보니 의외로 쾌적하게(?) 돌아가네요. 정확한 결과물인지는 좀 더 분석이 필요하겠습니다만 일단 답답하다는 느낌은 들지않네요.

26B A4B MoE 모델로 테스트 해 봤을땐 일단 그렇습니다. 적당히 써먹을만하네요. Q4_K_M, Q8_0 을 비교해서 돌려봤는데 속도 측면에선 큰 차이를 느끼진 못 했습니다. Context 양이 그리 많지 않아서였는지는 모르겠네요.
추론을 더 빡쎄게 굴려서 테스트 해 봐야겠습니다.
새로운 댓글이 없습니다.
이미지 최대 업로드 용량 15 MB / 업로드 가능 확장자 jpg,gif,png,jpeg,webp
지나치게 큰 이미지의 크기는 조정될 수 있습니다.
목록으로
글쓰기
글쓰기
목록으로 댓글보기 이전글 다음글
아이디  ·  비밀번호 찾기 회원가입
이용규칙 운영알림판 운영소통 재검토요청 도움말 버그신고
개인정보처리방침 이용약관 책임의 한계와 법적고지 청소년 보호정책
©   •  CLIEN.NET
보안 강화를 위한 이메일 인증
안전한 서비스 이용을 위해 이메일 인증을 완료해 주세요. 현재 회원님은 이메일 인증이 완료되지 않은 상태입니다.
최근 급증하는 해킹 및 도용 시도로부터 계정을 보호하기 위해 인증 절차가 강화되었습니다.

  • 이메일 미인증 시 글쓰기, 댓글 작성 등 게시판 활동이 제한됩니다.
  • 이후 새로운 기기에서 로그인할 때마다 반드시 이메일 인증을 거쳐야 합니다.
  • 2단계 인증 사용 회원도 최초 1회는 반드시 인증하여야 합니다.
  • 개인정보에서도 이메일 인증을 할 수 있습니다.
지금 이메일 인증하기
등록된 이메일 주소를 확인하고 인증번호를 입력하여
인증을 완료해 주세요.