안녕하세요, 

주로 눈팅하는 회원이었다가 언젠가는 좀 도움이 될만한 글을 써봐야겠다 생각을 했는데 천문공님의 리뷰(https://www.clien.net/service/board/park/19173831) 를 보고 제가 평소에 관심있었던 분야라 그런지 이걸로 저도 후기를 써봐야겠다고 생각하고 후기를 써봅니다.

오픈클로 이야기를 접하고 이제 신세계구나 싶어 맥 미니 기본형을 샀다가 설치부터 좌절먹고, 간신히 어째저째 설치는 했는 설치한 다음 도대체 스킬은 무엇이며 이러면서 한참을 헤맸습니다. Claude 붙이려고 하니 돈이 많이 나온다고 해서 로컬 LLM 찾아 보는데 이것 또한 16기가에서는 제대로 돌아가지 않는다고 해서 조금 더 좋은 36기가 램을 가진 맥 미니를 샀습니다. 그런데 해보니깐 기계 문제가 아니라 제가 문제더라고요.

그렇게 맥 두 대를 내버려두고 있던 차에 클량에서 후기를 보고 저도 한 번 깔아보았습니다. 이왕이면 두 대 동시에 깔아보면 괜찮겠다 싶어서 다운로드 해서 테스트 해봤는데요, 다운로드 과정은 간단했습니다. 앱스토어에는 안 올라와있고 그냥 사이트에서 바로 다운로드 가능하더라고요. owllo.ai 에 들어가서 다운로드 했습니다. 설치파일은 200메가 남짓 되는 것 같았는데, 모델은 포함 안 되어 있는 것 같았습니다.

처음 실행을 하니 아래와 같이 모델 다운로드를 받습니다. 처음부터 바로 모델을 선택할 수는 없는 것 같고 바로 gemma4 e4b 를 다운로드 받는데 이걸 기본으로 하는 걸 보니 자체 제공하는 모델은 아직 없구나 했습니다. 

다른 맥미니에도 설치를 하는데 보니 설치하는 모델이 달라서 (e2b) 뭐가 잘못된 건가 싶어서 다시 지우고 깔았지만, 설치하는 모델은 여전히 e2b 였습니다. 생각해보니 서로 기기에 스펙이 차이가 나는데, 스펙보고  실행이 가능한 다른 모델을 받는 게 아닌가 싶었습니다.

설치를 다 하고 나서 모델 저장소(?)로 생각되는 박스 아이콘을 클릭하니 나오는 모델이 두 개가 있었습니다. 기본 모델이라고 하는데 실제로 owllo-base-beta 라는 모델을 클릭하면 나오는 것이 “Mistral3” 라고 하는 걸 보면 자체모델을 제공하고 있지는 않은 것 같습니다.

첫 화면은 아래와 같았습니다. 대화창이 있었고 입력창에는 파일도 첨부할 수 있습니다. “대화 모드”, “에이전트 모드” 이렇게 두 개가 있는데 사용해보니 대화모드는 그냥 대화하는 거고 에이전트 모드는 무언가 일을 시킬 때 쓰는 모드인 것 같았습니다. 참고로 에이전트 모드로 일상 대화를 시도하면 상당히 느립니다. 그리고 계속 무언가를 띄워서 해주려고 합니다. 그렇기 때문에 그냥 대화는 일반 대화 모드로 하는 게 나을 것 같았습니다.

owllo-base-beta 라고 걸 선택해서 이것저것 대화를 해보는데 대화 퀄리티는 네.. 이거 좀 제법 구립니다. 디스코드 통해서 제작자에게 물어보니 자체 모델은 아니고 Ministral3 모델이라고 합니다. 자체모델 업데이트 계획이 없냐고 물어보니 자체 모델 업데이트는 4월 말로 예상한다고는 합니다. 그렇다고 하더라도 완전 자체 제작 모델은 아니겠지요. 왜 이 모델을 포함해서 두 개를 넣었는지는 모르겠는데 특히 한글을 못한다는 느낌이었습니다. 이 모델 보다는 더 나은 모델을 쓰시는 걸 추천드립니다.

그래도 대화를 하면서 이것저것 시켜봤는데 날씨를 묻는 거나 웹에서 찾아오라고 하는 건 그래도 잘 해 오는 것 같았습니다. 엉뚱한 소리를 하기도 하는데 Gemma4 를 26b 짜리를 쓰니 그래도 꽤 훌륭하게 답을 하는 걸로 봐서는 이것도 모델의 편차가 큰 것 같았습니다.

이런 저런 모델들을 깔아서 써봤는데, 어차피 성능이야 모델 바이 모델이니 잘 깔아서 쓰면 되겠다 싶었습니다.

텔레그램 연동 되고 웹으로도 접근이 가능한데, 특히 웹으로 접근하는 방법은 편했습니다. 설정 탭에 들어가서 이메일 인증 한 다음에 owllo.ai 사이트 들어가서 “Owllo 웹” 버튼 누르고 이메일 주소 인증만 하면 바로 들어갈 수 있더라고요. 회원가입 같이 복잡한 것도 없이 이메일 주소 입력하면 인증메일 오고 인증번호만 받으면 바로 컴퓨터랑 연결 되어서 들어가서 쓸 수 있었던 게 편했습니다. E2EE 지원한다고 하구요.

텔레그램도 연동해서 써봤는데 여느 텔레그램 연동되는 서비스에서 기대할 수 있는 것과 비슷했지만 한 가지 특이한 점은 “대화방?” “대화주제?” 를 바꿀 수 있다? 라는 점이었습니다. 텔레그램이 멀티 탭을 지원하지 않다보니, 어떤 대화를 하다가 그 컨텍스트가 아닌 다른 컨텍스트로 대화하고 싶을 때가 있을 텐데 그 컨텍스트를 구분할 수 있도록 되어있더라고요. 대화가 섞이지 않도록 하기 위함인 것 같았습니다. 다시 예전에 하던 대화를 불러올 수도 있고, 새로운 대화주제를 생성할 수도 있고 그랬습니다.

작업같은 것은 그래도 기대보다는 한다는 느낌입니다. 기본적인 대화나 생성 이런 것들도 어느 정도는 하고요. 이 부분은 너무 뻔한 거라서 후기에는 적지 않으려고 합니다. 그런데 계속 써보다 보니 작업할 때 특히 웹 검색할 때 컴퓨터에 로드가 너무 과하게 걸리는 것 같다는 생각이 들었습니다. 이 부분은 확실히 개선이 필요할 것 같습니다. 웹에서 무언가를 서칭하는 걸 보는 건 신기한데, 시간이 좀 많이 걸리고 가끔은 이게 무한루프가 아닌가 싶을 때가 있는데 이런 부분은 빨리 개선되어야 쓸 수 있겠구나 싶었습니다.

다른 서비스와 특이한 부분이 있다고 하면 자료라고 하는 탭인데 이게 뭐하는 건지 들여다 보다가 파일 같은 걸 추가할 수 있는 곳 같았습니다. 파일을 추가하면 분석한다고 하고 이걸 통해서 대화에 끌어오거나 대화를 만들어서 쓸 수 있는 기능인 것 같은데, 조금 사용하기 헷갈리지 않나 하는 생각이 들었습니다. 파일 분석하는데는 로컬이라 그런지 아님 모델 바이 모델인지 시간은 제법 걸리는 것 같았습니다. 자료 분석이 끝나면 이 자료와 관련한 대화를 할 수 있었는데, 이것도 모델의 성능에 따라서 영향이 있지 않을까 싶었습니다. 

그냥 파일 붙여넣으면 되지 이런 탭을 만들었을까 생각을 해 봤는데, 아마도 이게 로컬 AI의 특징상 같은 파일을 분석하더라도 모델따라서 답을 하는 것이 다를 것이다 보니깐 그때그때 다른 모델을 이용해서 분석하거나 사용할 수 있도록 하기 위함이 아닐까 싶었습니다. 일종의 창고로 만들어둔게 아닌가 싶었습니다. 그냥 봤을 때는 무엇인지 알기 힘들었던 점이 아쉽습니다. 

아울로라고 하는 자체 모델 라이브러리라고 하는 곳인데요, 여기서 모델이나 스킬 등을 다운로드 받을 수 있는 것 같은데 이쪽은 아직 준비가 많이 되지 않은 느낌이었습니다. 영어와 한글이 혼재되어있고, 스킬 라이브러리 쪽은 아예 준비를 안 한 것 같아 보이는데 이 부분은 아쉬웠습니다. 업데이트를 통해서 하겠다고는 하는데 다시 급히 서비스를 열었다는 느낌은 지울 수가 없었습니다. 

그래도 모델을 검색하고 “설치”를 누르면 바로 이렇게 설치되어서 쓸 수 있는데 이런 부분은 편했습니다. 특히 모델을 허깅 페이스라든지, 아니면 가지고 있는 gguf 파일을 바로 가져와서 쓸 수 있다는 점은 편했습니다. 제가 가지고 있는 모델들 몇 개로 테스트 해 봤는데 잘 로딩되고 사용도 되었습니다.

일단 기초적인 stable diffusion 모델도 지원하는 것 같은데, 한 가지 재미난 생각이 들었습니다. 만약 uncensored 모델을 통해서 그림을 생성해달라고 하면 어떻게 될까. 그래서 비속(19금)스러운 걸 그려달라고 테스트를 해봤는데 그 그림을 생성한다고 해서 이런 건 필터가 안 되나 했는데, 토끼가 나오네요. uncensored 모델 자체는 사용하는데 문제는 없었지만, 자체적인지 아니면 어딘가에서 필터는 걸려있는 것 같았습니다. 

쭉 몇 시간 써 봤는데, 웹 검색해서 쓰는 건 가이드를 잘 해줘야 하는 것 같고 (시행착오가 제법 있었습니다) 그래도 시행착오를 몇 번 거치니깐 제법 잘 하는 것 같았습니다. 이건 제법 시행착오를 거쳤는데,

웹브라우저를 띄우더니 (크롬이 꼭 필요합니다) 검색을 해서 결과를 줍니다. 반복적으로도 할 수 있고요. 텔레그램 연동 해 놓으면 텔레그램에서도 메시지를 매일 받을 수 있을 것 같습니다. 

사실 제일 제가 기대를 했던 스킬 부분인데요, 이 부분이 많이 비어있습니다. 베타 테스트 핑계라고는 하지만, 그래도 스킬을 넣어서 배포하는 게 어땠을까 싶습니다. 아니면 스킬을 만드는 방법이라도 문서로 만들어서 좀 줬으면 좋겠는데, 이 부분은 좀 많이 아쉽게 다가왔습니다. 스킬 라이브러리에 있는 것도 “이런 걸 할 예정이다” 정도의 느낌이었습니다. 아직은 좀 기다려야겠다 싶습니다.

전반적으로 써본 느낌을 말하자면, 기능에 대한 기대는 되지만 아직까지는 책이 비어있는 책장을 보는 느낌이 다소 듭니다. 좀 더 기다려야겠다라고 해야할까요. 제작사에서 말한대로 업데이트가 잘 된다면 꽤 쓸만하겠다 싶지만, 지금 생각으론 조금 더 완성도를 올렸으면 좋겠다는 생각입니다. 뭘 하고 싶은지는 알겠는데 그에 비해서는 너무 컨텐츠가 부족한 느낌이라고 해야 할까요.

하지만 컨셉자체는 훌륭하다고 생각합니다. 이게 계획대로 잘 동작만 한다면 그래도 괜찮지 않을까라는 생각을 합니다. 그리고 무엇보다 로컬 AI 라는 게 쉽지 않은 도전인데 이런 것들을 만든다는 자체로도 꽤 기대가 되고요. 어떻게 이걸 수익화 할지도 궁금하네요. 로컬 AI로 수익을 낼 수 있을까 싶기도 하고요.

이상 첫 후기를 마칩니다. 글 쓰는데 오래 걸리네요... 후기 쓰시는 분 대단하시다는 생각이 듭니다.