AWS GCP 등 클라우드 플랫폼 유행할 때 사람들이 혁신이라고 외쳤습니다. 서버 구축 인프라도 없어도 되고 관련 지식이 적어도 그냥 클라우드에서 다 해주니까요. 세상이 변할 것 같았습니다. 서버 구축이나 운영 관련 직원들은 다 잘렸죠.
하지만 비용 청구서가 날아오기 시작하니 그 환상이 금새 깨졌죠. 클라우드 플랫폼은 대신 어려운 일을 해주는 대가로 엄청난 비용을 요구하고, 당연히 그건 직접 서버를 구축하고 운영하는 것보다 훨씬 비쌉니다. 그래서 클라우드 비용 최적화를 해주는 업무를 위해 여러 전문가들이 양성됐습니다. AWS나 GCP는 자격증까지 만들어서 팔았습니다.
같은 웹서비스를 하더라도 클라우드 인프라를 어떻게 구성하느냐에 따라서 비용이 10만 원이 될 수도 있고 1,000만 원이 될 수도 있는 시대였으니까요. 지금도 별반 다르진 않습니다.
AI 시대에도 마찬가지일 겁니다. AI가 많은 일을 해주긴 하지만, 그 대가는 혹독합니다. 제가 ChatGPT, Gemini를 유료 버전으로 계속 쓰고있는데, 질문을 어떻게 하느냐에 따라서 빙빙 돌면서 엄청나게 많은 사용량을 소진하기도 하고, 명확하게 지시만 내린다면 비교적 훨씬 저렴하게 업무 진행이 가능합니다.
앞으로 십억대 고연봉을 받는 사람은 코딩을 잘하는 사람이 아니라 AI 비용을 잘 컨트롤하고 오케스트레이션하는 전문가들일 겁니다.
"이러한 서비스 프로토타입을 만들려고 하는데, 어떻게 비용을 적게 유지하면서 만들지?"
실력 없는 사람은 온데간데 쓸데없는 프롬프트를 덕지덕지 붙이고 서비스 유지하는 데에만도 수많은 토큰이 필요하게 만들 거고요,
실력이 있는 사람은 최소한의 토큰으로 적절한 AI 모델에게 일을 맡겨서 서비스를 뚝딱 만들고, 서비스 운영 유지보수 자체도 AI의 개입 없이도 가능하도록 최적화와 예외처리를 다 미리 해둘 겁니다. 장기적으로 가면 두 사람이 구축한 시스템의 TCO는 아마 수천% 까지 차이가 날 겁니다.
AI한테 맡겨서 바이브코딩으로 뭘 만드는 건 이제 누구나 할 수 있습니다. 잘 만들고 지속 가능하게 하는 게 중요하죠.
여러분도 AI를 그냥 쓰는 법만 배우지 말고 어떻게 해야 토큰을 적게 사용하고, 또 AI 없이도 지속 가능하게 만들지를 고민하는 연습을 하면 앞으로 없어서 못 찾는 인재가 될 수 있을 겁니다.
RSI라는것도 나오기 시작하는 이유가 로직의 흐름을 읽을줄 아는 사람이 구축한 기능일걸 생각해보면
클로드코드 내부 개발자 정도의 업무수준은 해야 살아남을거란 이야깁니다.
쓰는것에 집중하다간 더 늦겠네요.
극단적인 예를 하나 만들어보겠습니다.
임베딩용 데이터베이스에 [사과] [많다] 라는 두 데이터만 벡터화되어 존재한다고 칩니다.
이용자가 뭔 질문을 하든 간에 문맥파악이 끝나면 [사과] [많다] 둘 중 가중치가 큰 녀석을 뽑아내는 상황이라고 보면,
데이터가 두개다보니 연관성이 확실한 상황이겠고, 하나를 선택해 출력은 했으니 LLM 역할은 한 것이죠.
그러면 이걸 믿고 쓰다가는 오케스트레이션 능력이랍시고, 수 많은 벡터 데이터 중 경계선이 하필 모호하게 [사과]와 [많다]의 내적 차이 있는 부분에 선택해야할 상황이 왔다면, 문장이 이상하게 완성되는 포인트가 되겠고.. 데이터가 많을수록 멀어져서 저렇게 극단적일 확률이 적을 뿐이지 믿을 수 없는 답변일거란 이야깁니다.
바이브로 만들어주는 것 자체의 내부를 알고 있는 사람만이 살아남을 것입니다.
예전보다 계획도 잘세우고 적은 토큰으로 많은 일을 하고 있습니다.
계속해서 상위로 올라오고 있는데 그런것도 최적화 안할거라고 예측 하는건
기술이 정체 되어있을거라고 생각하는건데요.
추세를 보면 딱히 그렇지는 않습니다.
갈수록 퓨샷이 최고의 결과를 내는 방향으로 가고있습니다.
하네스도 버려지는 추세인데요
고객사를 물어 와야죠.
인프라 기술은 계속 상향 평준화 될거라서요.
ai 가 술먹으러 나올지도요...
담당자가 데리고 나오든지...
몇년 지나면 우리가 손대야할 일이 거의 없어질겁니다.
AI은 의사소통을 하는게 아니라, 학습한 내용을 바탕으로 구조화해서 답변하는 거라고 생각합니다.
AI 한계는 분명히 있을텐데, 우리가 모르니까 두려워 하는거죠. AI가 하지 못하는 걸 사람들이 해야하는 걸테고, 소통이 필요한 것 또는 창의적인 작업을 할ㅊ걱 같아요. 하지만 '창의적'에 대해서 재정의가 필요할 수도 있겠네요.