qwen3:30b - 알리바바 추론 모델

qwen3:32b - 알리바바 추론 모델

qwen2.5vl:32b - 알리바바 비전 모델

qwq:latest - 알리바바 추론 모델(32B)

gemma3:27b - 구글 비추론 모델

exaone-deep:32b - LG 추론모델

exaone3.5:32b - LG 비추론 모델

24GB그래픽카드 기준으로 돌릴 수 있는 모델들이구요.

32B(4비트 양자화)를 거의 모든 회사들이 현실적인 목표로 잡더라구요.

다른 회사들...phi, mistral 등 발표를 하긴하는데.. 전체적으로 Qwen 계열이 로컬에서는 제일 좋고 한국어는 LG하고 구글 모델이 제일 양호합니다.

근데 이거 돌릴려고 그래픽카드를 사는건 바보같은짓이고.. 그 돈으로 거대 AI기업 API연결해서 쓰시는게 훨씬 좋습니다.

이 밑으로 더 적은 파라메터의 모델들이 있습니다.

근데 그 모델들은 솔직히 연구하시는분들 아니면 의미가 없는것 같더라구요.