닷의 구조가 좀 흥미롭네요 ㄷㄷ
헤르메스나 오픈클로의 경우 LLM은 판단의 영역이고 뭔가 작업을 한다고 하면 로컬 HW 리소스를 쓸 수 밖에 없는 구조인데 닷의 경우 클라우드 기반의 가상 컴터가 하나 더 붙는 구조인거 같더군요.
그리고 오픈클로/헤르메스들은 게이트웨이가 본체인데 비해 닷의 본체는 챗GPT고 닷은 가상컴터 + 유저컴터를 챗GPT와 연결해주는 도구에 가깝네요. 즉,
- 오픈클로/헤르메스는 게이트웨이와 그게 돌아가는 컴터에서 작업이 이루어지고 유저와의 대화는 텔레그램으로
- 닷은 실행 주체는 챗GPT고, 챗 GPT가 클라우드와 유저컴터를 작업하고 유저와의 대화를 닷으로
하는 구조인듯 합니다.
이런 구조가 장점도 있고 단점도 있는데 장점은 브라우저의 경우 클라우드에서 샌드박스 구조로 독립적인 실행이 가능하다 이런 장점이 있겠고 단점은.... 오픈클로에선 5분도 안 걸리는 걸 닷에선 30분 넘게 잡고 있기도 하네요 ㄷㄷㄷ (사용자는 저니까 프롬프트의 차이는 없음..)
전에도 이야기했지만 언어모델이 같더라도 판단의 성격(헤르메스냐 오픈클로냐 닷이냐)이 실행 주체에 따라 업무를 풀어나가는 과정과 결과를 설명하는 방식이 하늘과 땅차이여서.. 장기적으로는 뮤즈나 닷이 최종 도착지점이 되긴 하겠지만 이 도착지점에 도달하기 전까지는 닷이라고 절대 우위에 있는 건 아니다.. 일단 전 이렇게 느끼고 있습니다. (뮤즈는 안 써봐서 모르겠음)
저도 헤르메스 설치는 했는데 잘 사용은 못하고 있었는데...
뮤즈는 간단한 업무 이것저것 시키니 알아서 잘 해주긴 하네요..
오픈클로 방치했다가 다시 써볼려구요 ㅎ
요금제 개편되고 나서 기존 PRO 속도가 반의반토막 난것 같은 느낌이에요. 엄청 느려졌어요.ㅠ
한도소진율도 속도가 느려지니 당연히 느려지는(?) 효과를 바란것인지 모르겠습니다.
오픈클로는 5분 안에 심플하게 하는데 닷은 중간과정이 정말 복잡하더군요. 문제는 5분 하나 30분 하나 결과물은 같다는거라...
닷도 이리저리 말하면 내부 프로세스를 간결하게 만들 수는 있을거같은데 또 훈련시키기 귀찮죠 ㅋㅋㅋ
아 그런 부분도 있을 수 있겠군요!!, 감사합니다!!
클로드는 api나 구독이나 한 90-100 tps 나오는데 openai는 구독은 한 20-30 tps 나옵니다...
게다가 사고를 좀 더 길게하는 경향이 있는것도 한몫하기도 하고요.
클로드 맥스 2개 코덱스 프로 1개 600달러 쓰는 중인데 컨텍스트와 개인화라는 간지러운 단점을 긁어주는건 분명하거든요. 다만 오픈클로가 어느정도 가성비인 맥미니를 통해 떡상하였듯이 비용적인 문제가 우선이지 않나 싶습니다.
뮤즈도 토큰이 너무 비싸단 말이 있는데 써보진 않아서 모르겠네요
그리고 리퍼럴코드 쓰면 10억개씩 추가해주더군요...
차이가 있다면 아무래도 하네스랑 어플의 편의성 차이 일 것 같은데, 사용 경험상 오픈클로나 헤르메스 대비 우월하다고 느끼시는 부분이 있으실까요?