우버에서 경영진이 사내에 AI 리더보드까지 만들어서 AI를 사용하게 했더니 순식간에 예산이 바닥났다고 하네요.

적당히 필요한 부분에 알맞은 모델을 써야 하는데 내 돈아니니 막말로 오푸스로 모든 작업을 다 해버리면 순식간에 토큰 비용이 급증하겠죠.

(최근 앤트로픽이 기업용 요금제는 종량제로 변경했다고 합니다)

거기다 적절하게 프로젝트를 분리해서 AI로 작업해야 하는 부분을 나눠서 하는 스킬도 필요하고요.

아무리 인풋 비용이 아웃풋보다 싸다고 해도 프로젝트를 통째로 넣어버리면 그것만큼 비효율적인 것도 없고요.

거기다 요즘 미국에서 AI 비용보다 적당한 수준의 사람이 더 싸서 해고됐던 개발자를 재고용하는 상황도 벌어진다는군요.

지금은 회사들이 출혈 경쟁 중이라 가격이 저렴한데 어느 정도 승자가 정해졌을 때 비용을 대폭 올리면 그땐 또 다른 국면이 펼쳐지지 않을까 하는 생각도 듭니다.