요즘 코덱스 앱에서 GPT 모델들의 작업 속도가 느려지는 것 같네요.
조회 3,462 · 공감 0 · 댓글 6
다른 분들도 그런가요? 어떤 때는 빠른 듯 하다가, 어떤 때는 느린 듯 한데, 평균적으로 점점 느려지는 듯 한 느낌입니다. 아무래도 사용자들이 증가해서 그렇지 않을까 생각중인데...
이게 Fast 모드 사용을 유발하기 위함이 아닐까 하는 합리적 킹심?이 살짝 들기도 합니다. /fast 설정을 한다고 실제 작업 토큰수가 늘어나는게 아니라 사용량을 2.5배 차감하는 거니까... 이렇게 쓰다 보면 결국 많은 사용자들이 요금제를 상향하거나 추가 API 사용 또는 추가 계정을 쓰게 될테니 말이죠. ㅎ
요즘 초기화를 자주 시켜주니까 그거 믿고 /fast를 자주 쓰는데 (사실 써도 별로 빨라졌는지 감이 잘안오기도..;;) ... 이게 정상적인 플랜별 주기 초기화만 되는데 이런 속도라면... 답답하기는 할 거 같네요.
댓글 6
변경이 귀찮으시면
질문에 따라서 모델, 추론단계 조절해주는 스킬이나 플러그인도 있어요.
그리고 5.5로 돌려도 이전의 5.5와는 다르게 토큰 속도가 쓸데없이 어마어마하며 이리저리 다 찔러봐서 과추론하고, 시간도 훨 더 오래걸리구요. 전체적으로 속도가 너무너무 낮아졌습니다.
그리고 위에 댓글 단분 말씀처럼, 저도 보니 5.6Luna가 가장 낮은 등급이라지만 사실 가장 상위 등급 Sol실은 몇프로 성능 차이 안난다고 해서, 저도 Luna로 맥스로 놓고 쓰는데 그나마 속도가 제일 낫습니다.