· 톺아보기

Qwen3.8 27B의 충격적인 데뷔

천문공 · · 수정

조회 4,825 · 공감 6 · 댓글 10

https://huggingface.co/Qwen/Qwen3.8-27B


지금까지의 경량 로컬AI 는 보조의 영역을 벗어난 적이 없습니다.

주력 모델로 쓰기에는 부족함이 많았다는 뜻입니다.


Qwen3.8은 그 벽을 깼습니다.

특징을 보자면 ... 기존의 벤치마크 항목에선 나름 준수한 정도에 머무는데,

새로이 중요시 되고 있는 에이전트를 비롯한 항목들은 이게 맞나 싶을 정도로 높은 성능을 보입니다.


따라서 모든 분야의 주력 모델이 되긴 아직 어렵겠지만,

일부 분야에선 아예 프런티어 모델을 대체할 초기적 단계에 접어든 것 같습니다.


요즘 여러 서비스를 유기적으로 연동해 쓸 수 있게 하는 플러그인이 많으니만큼

이 정도라고 한다면 어려운 일이 아닌 일상적 용도는

로컬AI로 시스템을 구축하고, 이것을 일상의 기준으로 쓰면서

필요시 프런티어 모델을 선택해서 사용하는 방식도 이제 괜찮은 선택이 될 것 같습니다.



댓글 10

  1. 오라질 ·
    Opus 4.6 (4.8에서 수정) 하고 차이가 거의 없어서 이제 비싼돈 주고 미국 프론티어 모델 쓸 이유가 별로 없습니다..
  2. 천문공 ·
    @오라질님
    혹시 3.8 맥스를 말씀하시는 것 아닐까요.
    27B는 작은 모델이라 그 정도는 아닙니다.
  3. 오라질 ·
    댓글 이미지
    @천문공님 급히 벤치 찾아봤는데 4.6하고 비슷하네요 수정했습니다 ㄷㄷ
  4. SIMCGA · · 공감 1
    @천문공님 Qwen 3.8 소개글에 Opus 4.6 Max보다 좋다고 표기되있으니 Opus 4.8과 큰차이를 못느낀다는게 맞을수도 있습니다. 코딩에 있어서는 오픈 소스 모델들도 상당히 많이 올라왔거든요. 프런티어 모델들이 다른 여러가지 주제에 대해서 다양하게 성능이 좋은데 Qwen모델들이 코딩에 있어서는 그래도 꽤 준수 하더군요.
  5. hogar ·
    "일부 분야에선 아예 프런티어 모델을 대체할 초기적 단계에 접어든 것 같습니다."

    이 표현이 딱 맞는거 같습니다. 저도 이런 느낌을 받았습니다.
  6. 유애나Futurism ·
    혹시 여기서 말하는 성능이 주로 코딩쪽을 말하는 건가요?
    일반적으로 검색하고 팩트체크, 데이터 분석 같은 것들도 포함이 되나요?
  7. 천문공 ·
    @유애나Futurism님
    전반적으로 좋습니다.
    치우친 모델은 아닙니다.

    한편...검색은 로컬의 몫이 아닙니다.
    검색은 그냥 GPT나 제미나이 공홈 사용하시면 좋겠네요.

    로컬 중에 검색MCP를 달아 쓰는 경우가 있지만... 제 경험으론 만족스럽진 않더군요.
    아니면 검색을 지원하는 에이전트에 달아서 써도 됩니다.

    헤르메스가 아마 지원하지 싶은데요.
  8. mericrius ·
    하드웨어 가격만 떨어지면 로컬AI의 시대가 오려나요.
  9. mairoo ·
    fable 5 기준 100점 만점으로 놓을 때 70-80점 수준에 적절한 가격으로 로컬 LLM 돌릴 수 있으면 그 시장의 파괴력은 어마어마할 것 같습니다.
  10. 애플망고 ·
    일반 그래픽카드(rtx5090...)에서 돌아가는 소형 모델 중 최초로 업무 좀 맡겨도 될 만한 에이전트 같더군요. 파라미터가 작으니까 범용 지식은 한계가 있겠지만 적절한 참고자료만 잘 던져준다면 매우 좋은듯 합니다.

모두의공원 최근 글

모두의공원 목록 더 보기