이게 제미나이고 이게 로컬 LLM 입니다 ㅋㅋㅋㅋ 제미나이의 경우 제미나이 3프로 프리뷰, 로컬의 경우 qwen3:8b 입니다. (상당히 멍청한 놈) 8b 모델들이 램 8GB짜리에서 굴리는 용도이고 제 맥은 램이 16기가이긴 한데.. M3 에어에서 램 16기가짜리 굴리는 모델들 풀로 돌아가면 시스템 얼어버릴 정도가 되더군요. 그래서 일단 8b 모델로 돌리는 거긴 합니다.
코딩 벤치마크 (HumanEval):
Claude 3.5 Sonnet: 92%
GPT-4 Turbo: 90%
━━━━━━━━━━━━━━━━━━━━━━━
Qwen2.5-Coder-32B: 92% ← 거의 동급!(추천)
DeepSeek-V2-Lite: 81%
Llama 3.3 70B: 88%
EXAONE 3.5 32B: 75%
━━━━━━━━━━━━━━━━━━━━━━━
Claude 3 Haiku: 75%
GPT-3.5: 67%
문제는 32B를 돌릴려면 최소 X090급 램을가진 GPU가 있어야 하네요..
프라이빗 대처와 인터넷 단절환경에서의 ai활용에서 빛을 발휘할 수 있다고 봅니다.