GPT 코덱스 서브에이전트 간 컨텍스트 캐시 재사용
조회 574 · 공감 3 · 댓글 0
오늘 tibo의 발표로 폭력적으로 사용량이 줄었던 이유를 드디어 알았네요.
서브에이전트들 굴릴 때 캐시 관리가 각각이었거나 캐시 적용이 안 되었다는 이야기고, 그것이 5.5 대비 4~5배 빠르게 사용량이 감소했던 이유인 걸로 보입니다.
게다가 daemon 기능을 넣으면서 캐시 공유가 되도록 만들어 놓고서, 그것을 자동 적용되도록 해놓지 않아서 직접 toml 파일을 수정해야만 캐시가 적용 됩니다.
앤트로픽이 api 접속시 캐시 로직을 꺼버리고 사용자가 알아서 캐시 프로그램 만들어서 적용하고 관리하도록 방치하는 모습이 매우 보기 좋지 않았었는데, 오픈Ai 조차도 캐시 장난으로 자신들의 수익을 올리는 짓을 했다니....
----------------
티보가 10월 17일 08:55 KST에 Codex·Work의 ‘실질적으로 쓸 수 있는 사용량’을 늘렸다고 밝혔어요.
방법은 세 가지입니다.
- 서브에이전트 사이에서 컨텍스트 재사용
- 컨텍스트 캐시 보관시간 연장
- 요청 라우팅 개선으로 캐시 적중률 향상
같은 내용을 반복 처리하는 비용을 줄이는 방식이라, 멀티에이전트를 많이 쓰는 당신의 작업에 특히 관련성이 큽니다.
----------------
해당 옵션은 직접 켤 수 있습니다. ~/.codex/config.toml에 아래처럼 설정합니다.
[features.multi_agent_v2]
enabled = true
preserve_fork_prefix = true
- 이미 [features.multi_agent_v2] 항목이 있으면 그 안에 preserve_fork_prefix = true를 추가하세요.
- 기존 [features] 안에 multi_agent_v2 = true가 있다면, 그 줄을 위 테이블 형태로 바꿔야 합니다. 둘을 중복으로 넣으면 안 됩니다.
- 실행 중인 작업을 마친 뒤 CLI를 다시 실행해 사용하는 편이 안전합니다. 기존 세션에 즉시 반영되는지는 확인되지 않았습니다.
이 옵션은 부모의 전체 대화를 이어받는 서브에이전트에서 공통 컨텍스트 앞부분을 보존합니다. 캐시 보관시간·서버 라우팅까지 켜는 통합 스위치는 아닙니다. 또한 enabled = true는 multi-agent v2 자체도 활성화합니다.
댓글 0