CLIEN

본문 바로가기 메뉴 바로가기 보기설정 테마설정
톺아보기 공감글
커뮤니티 커뮤니티전체 C 모두의광장 F 모두의공원 I 사진게시판 Q 아무거나질문 D 정보와자료 N 새로운소식 T 유용한사이트 P 자료실 E 강좌/사용기 L 팁과강좌 U 사용기 · 체험단사용기 W 사고팔고 J 알뜰구매 S 회원중고장터 B 직접홍보 · 보험상담실 H 클리앙홈
소모임 소모임전체 ·굴러간당 ·주식한당 ·아이포니앙 ·MaClien ·방탄소년당 ·일본산당 ·자전거당 ·개발한당 ·이륜차당 ·소시당 ·나스당 ·안드로메당 ·AI당 ·걸그룹당 ·영화본당 ·골프당 ·클다방 ·사과시계당 ·디아블로당 ·패스오브엑자일당 ·가상화폐당 ·노키앙 ·IoT당 ·축구당 ·젬워한당 ·노젓는당 ·창업한당 ·윈폰이당 ·리눅서당 ·육아당 ·소셜게임한당 ·여행을떠난당 ·바다건너당 ·물고기당 ·라즈베리파이당 ·캠핑간당 ·3D메이킹 ·X세대당 ·ADHD당 ·AI그림당 ·날아간당 ·배드민턴당 ·야구당 ·농구당 ·블랙베리당 ·곰돌이당 ·비어있당 ·FM당구당 ·블록체인당 ·보드게임당 ·활자중독당 ·볼링친당 ·냐옹이당 ·문명하셨당 ·클래시앙 ·콘솔한당 ·요리한당 ·쿠키런당 ·대구당 ·DANGER당 ·뚝딱뚝당 ·개판이당 ·동숲한당 ·날아올랑 ·전기자전거당 ·e북본당 ·갖고다닌당 ·이브한당 ·패셔니앙 ·도시어부당 ·FM한당 ·맛있겠당 ·포뮬러당 ·안경쓴당 ·차턴당 ·총쏜당 ·땀흘린당 ·하스스톤한당 ·히어로즈한당 ·인스타한당 ·KARA당 ·키보드당 ·꼬들한당 ·덕질한당 ·어학당 ·가죽당 ·레고당 ·LOLien ·Mabinogien ·임시소모임 ·미드당 ·밀리터리당 ·땅판당 ·헌팅한당 ·오른당 ·MTG한당 ·소리당 ·적는당 ·방송한당 ·PC튜닝한당 ·찰칵찍당 ·그림그린당 ·소풍간당 ·심는당 ·품앱이당 ·리듬탄당 ·달린당 ·Sea마당 ·SimSim하당 ·심야식당 ·윈태블릿당 ·미끄러진당 ·나혼자산당 ·스타한당 ·스팀한당 ·파도탄당 ·퐁당퐁당 ·테니스친당 ·테스트당 ·빨콩이당 ·공대시계당 ·터치패드당 ·트윗당 ·VR당 ·시계찬당 ·WebOs당 ·위스키당 ·와인마신당 ·WOW당
임시소모임
고객지원
  • 게시물 삭제 요청
  • 불법촬영물등 신고
  • 쪽지 신고
  • 닉네임 신고
  • 제보 및 기타 제안
© CLIEN.NET
공지[점검] 잠시후 서비스 점검을 위해 약 30분간 접속이 차단됩니다. (금일 18:15 ~ 18:45)

모두의공원

중국산 인공지능 DeepSeek-R1 로컬 간단 후기. 14

11
2025-01-27 10:10:42 14.♡.52.212
호퍼김

최근 잡다한 문서 정리할 일이 있어서

딥시크 나왔다길래 넣어 봤더니

생각보다 엄청 잘 해서 깜짝 놀랐습니다.


그리고 이 녀석 로컬로 R1 버전을 내놨네요.


무려 1기가 짜리 작은 녀석도 영어로 수학을 잘 풉니다.


하지만 저는 번역이나 문서 정리가 필요하기 때문에


14B 짜리 녀석을 써봤죠.



뭐, 간단한 번역 성능은 위와 같습니다.


영문으로 된 유투브 스크립트 뽑아서 텍스트 파일 만들고,


그거 한글로 번역하는 거 정도는 가능 하더라구요.


진짜 민감한 데이터나 그런거 로컬로 돌리거나


인터넷 로그인 귀찮거나 할때


이 녀석 쓰면 딱일듯 합니다.



호퍼김 님의 게시글 댓글
  • 주소복사
  • Facebook
  • X(Twitter)
댓글 • [14]
라디
IP 222.♡.117.44
01-27 2025-01-27 10:12:46
·
선생님~ 질문있습니다.
이런거 실생활 사용 가능한 범주에서 돌리려면, 컴 사양이 어느 정도 되어야합니까^^?
호퍼김
IP 14.♡.52.212
01-27 2025-01-27 10:16:10
·
@라디님 컴퓨터 3년 전에 샀어요. 그래픽 카드는 RTX3060으로 쓰다가 인공지능 때문에 강제로 4080super로 업글 했습니다.
삼혼4
IP 222.♡.131.113
01-27 2025-01-27 10:13:03
·
14TB...???? 다 받으셨다는거죠..??
호퍼김
IP 14.♡.52.212
01-27 2025-01-27 10:22:46 / 수정일: 2025-01-27 10:31:50
·
@삼혼4님 아니에요. B는 10억개의 매개변수라서. 뭐 데이터로 따지면 50기가? 그걸 다시 양자화 시키고 압축 하고 해서, 효율화 시킨 버전이 나왔더라구요. 그거 9기가 정도 해요. 그러니까 VRAM이 12기가 정도면 겨우 돌릴 수 있을 거에요.
어머
IP 141.♡.119.11
01-27 2025-01-27 10:23:26
·
@삼혼4님 14빌리언 파라미터라 9-10기가 될거라그렇게 크지 않습니다
삼혼4
IP 222.♡.131.113
01-27 2025-01-27 10:31:38
·
두분 다 가르침 주셔서 감사합니다(_ _)
내사랑곰팅
IP 1.♡.63.66
01-27 2025-01-27 10:21:37
·
14B는 9GB네요?
호퍼김
IP 14.♡.52.212
01-27 2025-01-27 10:24:08
·
@내사랑곰팅님 네 9.8기가 정도로 알고 있습니다. 그 상위 버전은 메모리 에러날 것 같아서 다운 안 받았는데, VRAM이 정말 중요하게 되었네요.
내사랑곰팅
IP 1.♡.63.66
01-27 2025-01-27 10:25:35 / 수정일: 2025-01-27 10:25:47
·
@호퍼김님 정보 감사합니다. 여기서 다운로드 받으면 되나요?
https://ollama.com/library/deepseek-r1:14b
호퍼김
IP 14.♡.52.212
01-27 2025-01-27 10:36:49
·
@내사랑곰팅님 음.. 저는 DeepSeek-R1-Distill-Qwen-14B-GGUF 이 모델이니, 똑같은거 맞네요.
언어분석
IP 218.♡.131.195
01-27 2025-01-27 10:24:10
·
추론 능력은 뛰어난 게 맞는데(오픈소스에선 최강일듯요)
한국어 능력은 아직 별로입니다. 향후 개선되겠죠.

이 부분 감안하셔야 할듯 합니다.
번역만을 생각한다면, 제미나이가 더 좋을걸요.
솔라
IP 220.♡.161.189
01-27 2025-01-27 10:52:38
·
14B짜리 모델도 이전 동급 크기의 모델에 비하면 훌륭하지만 어느 정도 한계를 쉽게 볼 수 있는데
deepseek.com 서버에서 큰 모델을 테스트 해보면 성능이 o1보다 낫거나 비슷한 것을 체험할 수 있습니다.
라이센스도 MIT라서 상용화 노리는 사람들 많을텐데...
미국에서 조만간 deepseek이용한 서비스 금지 명령 떨어질지도 모르겠네요. 허허
맛스타오렌지
IP 70.♡.124.64
01-27 2025-01-27 10:59:06
·
일반컴에서 로컬로 되는군요.
그런데 vram 작으면 실행 자체가 안되는 건가요?
솔라
IP 220.♡.161.189
01-27 2025-01-27 11:12:01
·
제 PC GPU가 11GB메모리라서 9GB모델을 올리면 기본 OS돌리는 것과 합쳐져서 99% 메모리 사용하네요.
CPU에서도 실행하게 할 수 있지만 많이 느려지구요.
새로운 댓글이 없습니다.
이미지 최대 업로드 용량 15 MB / 업로드 가능 확장자 jpg,gif,png,jpeg,webp
지나치게 큰 이미지의 크기는 조정될 수 있습니다.
목록으로
글쓰기
글쓰기
목록으로 댓글보기 이전글 다음글
아이디  ·  비밀번호 찾기 회원가입
이용규칙 운영알림판 운영소통 재검토요청 도움말 버그신고
개인정보처리방침 이용약관 책임의 한계와 법적고지 청소년 보호정책
©   •  CLIEN.NET
보안 강화를 위한 이메일 인증
안전한 서비스 이용을 위해 이메일 인증을 완료해 주세요. 현재 회원님은 이메일 인증이 완료되지 않은 상태입니다.
최근 급증하는 해킹 및 도용 시도로부터 계정을 보호하기 위해 인증 절차가 강화되었습니다.

  • 이메일 미인증 시 글쓰기, 댓글 작성 등 게시판 활동이 제한됩니다.
  • 이후 새로운 기기에서 로그인할 때마다 반드시 이메일 인증을 거쳐야 합니다.
  • 2단계 인증 사용 회원도 최초 1회는 반드시 인증하여야 합니다.
  • 개인정보에서도 이메일 인증을 할 수 있습니다.
지금 이메일 인증하기
등록된 이메일 주소를 확인하고 인증번호를 입력하여
인증을 완료해 주세요.