엔비디아 포럼에서 dflash 글이 핫하길래 적용해보니 속도 즉정에서 확실히 빨라졌습니다.
70 정도였는데 120 까지.. 올라가는데..
실작업에서는
빨랐다 느렸다 하는 느낑?
70~120 사이 왔다갔다 하는 느낌 드네요.
전용 이미지가 아니라 기존 이미지에 dflash 이미지 불러와 처리 속도 개선하는 방식 같은데..
몇일 더 써봐야 할것 같아요.
스파크 vLLM
Qwen3.6 35b a4b fp8 적용 기준입니다.
엔비디아 포럼에서 dflash 글이 핫하길래 적용해보니 속도 즉정에서 확실히 빨라졌습니다.
70 정도였는데 120 까지.. 올라가는데..
실작업에서는
빨랐다 느렸다 하는 느낑?
70~120 사이 왔다갔다 하는 느낌 드네요.
전용 이미지가 아니라 기존 이미지에 dflash 이미지 불러와 처리 속도 개선하는 방식 같은데..
몇일 더 써봐야 할것 같아요.
스파크 vLLM
Qwen3.6 35b a4b fp8 적용 기준입니다.
오푸스 파인튜닝 모델에도 같이 쓸수 없으련지...
저는 dflash 잠시 쓰다가 속도가 일정한게 좋아서 원본으로 되돌아갔어요.