https://www.axios.com/2026/05/28/ai-spending-roi-enterprise-costs
요즘 월가에서 ai 비용에 대해서 계속 말 나오는게, ai 토큰 비용이 너무 비싼데 (특히 거대모델들)
문제는 효율성이 안나온다.. 라는 얘기가 꾸준히 나오는 중입니다.
새삼스러운 얘기는 아니고 작년부터도 계속 나왔던 얘기인데 ai 모델이 발전하면서 자연스럽게 해결될거다 라는 여론도 많았었죠
근데 아직까지도 만족스러운 수준은 아닌것을 넘어서서 비용만 너무 커지고 있다는건데..
그래서 거대모델에 의존하기 보다는 지능 좀 떨어져도 값은 훨씬 더 싼 소규모의 모델이나 독자모델로 효율성을 추구할 수도 전망도 꾸준하네요.
실제로 비용이 너무 증가해서 (무제한으로 쓰게 했더니 예산지출이 말도 안되게 증가했다는 얘기도 종종 나왔죠) 부담스러운데
결과물은 각종 버그나 리뷰에 또 토큰을 쓰느라 효율성이 안좋다는 증언이 꾸준히 나오긴 했습니다.
다만 ai 모델이 발전하면서 더 똑똑해지고, 더 싸지는 시점이 언젠간 오긴 할텐데.. 문제는 언제냐 라는 것이죠.
거대모델 사업자들도 계속 토큰 비용 압박때문인지 서비스를 낮추는 경우가 있어서.. 클로드와 제미나이가 이거 관련해서 이슈가 있었죠.
빅테크들도 현금흐름 압박에 대한 주주들의 우려가 커지는 중이긴 합니다.
그래서 기업들이 가격대비 효율의 비율이 더 좋은 싼 모델을 찾을 것이다.. 라는 전망도 늘고 있고 이는 고성능 컴퓨팅관련 수요를 낮출 수도 있는 요인이 될 수 있죠.
결국 지금은 비용대비 효율이 너무 구린건 맞는데 어쨋든 ai 성능은 계속 좋아질 것이고 이 병목과 시차의 문제가 과연 어느지점에서 해소가 될 수 있느냐가 관건이겠네요.
거기에 최근 저가형모델의 효율이 급속도록 빠르게 올라오긴 해서, 아에 수요가 이쪽으로 넘어갈지 아닐지도 관건이겠죠. (물론 그 모델들은 거대모델들 증류한거다 라는 이슈가 있지만요). 저도 딥식, 미모 써보니까 확실히 작년의 그것들과 대비 놀라운 발전을 보여주긴 했습니다. 가격은 물론 훨씬 싸고요.
그런데 지금 대학총장을 만들고있으니 비효율
이게 결과물 자체가 현재 ai의 수준이 만족스럽지 못한다는 얘기라..
즉 시장에서 원하는건 대학총장급인데
거대모델은 박사급이고
소규모 모델은 학사급이라고 할때
박사급 10명이 있어야 대학총장급의 결과가 나온다고 볼 경우.. 대학총장 월급으로는 1천만원쯤이 효율선이라면
실제 박사급의 월급이 지금 500만원이다 라는 수준이죠. 즉 5천만원을 투입해야 대학총장급 효율이 나오니 비용 감당이 안된다는 것.
반면 학사급은 박사급의 일처리의 10%수준인데 월급이 20만원 수준이라고 보면
학사급 100명 굴려서 총장급 결과를 내는데 2천만원이 들어간다.. 뭐 이런거죠. 다만 동시에 과연 학사급 100명 굴려서 박사급 10명의 퍼포먼스를 낼 수 있느냐, 많이 굴린다고 결과가 좋게 나오겠느냐 라는게 부정적인 관점이겠고요
한계점이란게 성능대비 비용이 비용이 기하 급수적으로 증가하는 걸 말하는거고...
그게 한계가 어디쯤인지 인지하게 되면... 지금 하는 묻지마 식 투자도 끝나겠죠.
그런 수준의 ai 활용은 비싼 모델을 쓸 이유가 없으니까요. 지금 문제가 되는건 기업들이 굴리는 비싼모델이라
이젠 개인의 공부에도 비용이 많이드니 차라리 5년마다 한번씩 국비지원 이용해서 취준하는 상황도 생기고 있습니다👀
작년에 국비 들으신분들은 AI쪽 수업 국비 들으려면 4년 더 기다리셔야겠군요😖