아직 os를 안 올려서 확인은 못해봤는데, 궁금하네요.
fm 명령어로 구동하고 기본 로컬 모델이 AFM 3 (애플 파운데이션 모델 3)라는데, 성능이 어느 정도 되는지 확인 해보니,
AFM 3 Core 는 3B, AFM 3 Core Advanced 는 20B 모델인데,
12GB 메모리로 구동할 수 있다고 해서 찾아보니, MoE 모델이라 프롬프트 입력시 활성화되는 매개변수가 1~4B 정도라고 하는군요.
실제 얼마나 유용한 능력을 보여줄지 궁금합니다. 물론 맥 안에서 단축어 대체, 몇번의 탐색 작업 대체 수준일 것 같긴 하지만요.
맥/아이폰이 로컬 모델을 탑재하고 제대로 돌리기 시작하면 정말 램 시장은 폭발할 것 같기도 하고... ㄷㄷㄷ