· 톺아보기

토픽필터 볼때마다 토큰값이 꽤 나가겠다 싶긴 합니다

라텍스장갑 ·

조회 1,881 · 공감 1 · 댓글 12

물론 그냥 단순분류 정도야 초경량 non thinking 모델로도 가능은 할건데


그래도 다수의 글이니 살짝 부담은 되겠네요

댓글 12

  1. 쏘리누 · · 공감 3
    로컬 llm이면 어떨까요?
  3. aiko · · 공감 3
    로컬로 돌리면 되는수준입니다
    실제로 공지도 로컬이구요
    동일작업 반복이라 굳이 토큰줘가며쓸필요가없어요. 로컬로 구축하는게무조건싸죠
  4. OLIVER ·
    로컬모델이라고 했던거 같습니다.
  5. liberal · · 공감 1
    로컬입니다 라고 달려고 왔는데 주르륵 달리는 댓글 ㅎㅎ 역시 클리앙답네여
  6. Camille · · 공감 1
    댓글 이미지
    클리앙 머신이 일하고 있습죠. ㅋ
  7. 라텍스장갑 ·
    @Camille님 로컬이었군여 ㄷㄷㄷ
  8. PICOPIO · · 공감 1
    @Camille님
    미니랙에 nanokvm에 여러 미니pc들까지, 그리고 os설치용으로 추정되는? 굴러다니는 미니usb..
    거기에 apc 멀티탭형 ups까지.. 진정 클리앙 스러운 사진이라 너무 반갑네요.
    어떻게, 테이블 위 먼지라도 한번 닦아 드리고 싶을 정도로 ㅎㅎ
  9. 김목동 ·
    qwen 양자화모델 사용하면 5070ti 정도 글카로도 충분히 가능할것같지만 클량은 더 어마어마한 장비를 갖추고 있을것같은 느낌입니다 ㅋㅋㅋ
  10. 라텍스장갑 ·
    @김목동님 토픽필터는 사실 제목이랑 맨앞 500자 정도만 추출해도 붙일 수 있는거라 생각해보니 부담 없을거 같긴 하네요
  11. 라텍스장갑 ·
    로컬이라니
    생각해보니 로컬이어야 할거 같긴 하네요
  12. 모빌리안 ·
    ai 395 128gb 쓰시나보네요

모두의공원 최근 글

모두의공원 목록 더 보기