AMD AI PC가 한동안 애물단지였는데 말이죠.

https://github.com/peonist-ai/halogen-flash-server

이런게 나왔습니다.
AMD쪽은 CUDA 지원안되서 계륵이었는데 뭔가 한줄기의 빛같은...

연휴이고 해서 한번 깔아서 써보자 싶어서 리눅스 설치하고 구성을 방금 마쳤는데
(모델 다운로드가 118GB라서 2-3시간 걸린거는 예상못했습니다.)
클로드코드에 MCP로 붙여서 사용중인데 오 꽤나 토큰이 많이 아껴지는거 같습니다..
매우 빠르다고 보긴 어렵지만 그래도 4-50토큰 꾸준히 뽑아줘서 클로드가 코딩하는속도랑 얼추 비슷합니다.

무엇보다 토큰소모량이 어마어마하게 줄어드네요.
클로드는 감독만 하고 일은 얘가 하는거니까 확실히 줄어든게 느껴집니다.

세상이 점점 좋아지네요.
계륵같던 AMD도 쓰임새가 있다니...