xformers and Torch 2.0.1 support - today's dev build of xformers has Torch 2.0.1 support
실행 파라미터에 --xformers 쓰는 분들만 적용하면 되는 팁입니다.
pip install xformers==0.0.20.dev539
(pip 사용법은 검색하세요)
레딧 댓글에도 있지만, 가능하면 xformers 대신 --opt-sdp-attention 또는 --opt-sdp-no-mem-attention 파라미터 추천합니다.
(검색해보니 이론적으로 VRAM을 조금 더 먹지만, 약간의 성능 향상 있다네요)