최근에서야 RAG라는 것을 알게 되었습니다.
n8n을 이용해서 만들어보려고 합니다.
어찌어찌 자료를 vector로 바꾸어서 저장까지는 했는데
해당벡터자료를 끌고와서 답변을 만들어줄 AI가 필요합니다.
어느정도 사용량까지는 정액요금을 사용하고 혹시라도 사용량이 늘면 추가과음되는 AI가 있을까요? 서버사양이 빈약한지라 ollama를 이용하는 local AI는 어렵습니다.
처음에는 claude 생각했는데 claude는 pro요금제 결제해도 API key를 사용하는 것은 종량제로 따로 결제를 해야 하더라구요....
API key 사용도 어느정도까지는 정액제를 지원하는 (혹은 무료라면 더 좋습니다. 아직 test단계여서.... 토큰을 얼마나 사용하지 모르겠습니다. )
AI chatbot이 있을까요?
구글 제미니??
chatGPT??
클로드
정도 밖에 몰라서...ㅠㅠ
어떤 AI를 결제해야 할 지 모르겠습니다.
가르쳐주세요
여기 통해서 적당한 모델 선택해서 사용해 보시면 어떨까요?
물론 다양한 모델이 지원되고 다양한 가격이 있는 만큼 품질도 왔다갔다 합니다.
리밋을 넘어선다면.. api 를 사용해야 할텐데.. 제가 알기론 유명 ai 모델은 모두 종량제입니다.
그리고 어느정도 추가과금되어도 상관없으시다면.. 그냥 api 사용하시면 됩니다.
빌링 정책을 결정할 수 있거던요..(예를 들어 월 최고 50$까지만 과금하겠다.. 라던지 하는 것..)