신개념 LLM AI, Jev 활용케이스 모음
조회 5,576 · 공감 5 · 댓글 13
Typesafe AI사의 Jev라는 AI모델이 출시되면서 SNS상에서 엄청나게 핫합니다.
기존의 Gemini나 ChatGPT Astra, Claude Fable 같은 LLM모델들과 무엇이 다르다고 이렇게 호들갑인가?
라고 생각하실 수 있는데, 네, 다릅니다.
일종의 논리적 반도체라고 보시면 됩니다만, 기존 LLM모델은 깊이 추론하여 답을 길게 내놓는 반면,
Jev는 아웃풋 결과로 긴 대답을 내놓는 것이 아니라, 주어진 구조적 문제에 대해 판단한 결과값만 확신도와
함께 반환합니다.
이렇게 같은 LLM이긴 하나 아웃풋 결과를 내놓는 방식을 달리함으로써 아웃풋 토큰을 거의 0까지 줄였고,
대답을 내놓는 시간을 말도안되게 빠르게 줄였으며, 사용 비용도 그에 따라 1/400까지 획기적으로 줄였습니다.
게다가 가장 놀라운 부분은 구조적인 결정을 하는데 있어서는 환각률이 0%??!! 0%라고 Typesafe사 측은
주장하고 있습니다.
무슨 말이냐면 ChatGPT ASTRA를 포함 최근의 LLM모델들은환각 문제가 많이 개선되었지만프론티어 모델들도
여전히 0.85% 전후의 환각률을 보여줍니다만, 예로, 300명의 과거 배달앱 사용 데이터를 주면서, 그들이
오늘 점심 메뉴로 짬뽕, 짜장면, 우동 중에 무엇을 고를것 같냐라고 300명 개개의 선택을 추론하게 하면,
기존의 LLM모델들은 아주 가끔씩 선택지에도 없는 불닭볶음면을 선택할것이다라는 헛소리를 내놓는 다는 겁니다.
그걸 Jev는 선택지 안에서만 100% 선택하구요. 이렇다 보니 대량의 데이터를 판단하고 분류하는데 아주 최적화된
모델이라고 보이고, 환각률이 주장대로 0%이고 이렇게 반응이 수십 ms에 달할정도로 빠르다면, 예를 들어
로켓발사되고 조정되는데 판단하는 AI로 써도 문제가 없지 않을까요?
** Jev는 아직까지 Vision모델이 아니라서 다른 LLM들처럼 이미지를 보고판단하거나 할수 없습니다.
SNS상에 사진 판독을 하는듯이 보여주는 Jev활용법은 여러가지 방식으로 우회를 한겁니다.
하여튼 이런 면에서 개념은 더욱 심플해졌지만, 오히려 사용자들의 사용례에 따라 진짜 가능성이
무궁무진합니다. 그래서 지금 사용자들의 JEV 활용사례를 모은 포트폴리오 같은 사이트들이
엄청 유행하고 있습니다. 이들 사용 어플리케이션 하루가 다르게 추가되는데 이것들 보러 가면
시간 가는줄 모르고 보고 있습니다. 그런 예제 사이트 몇개 소개해봅니다.
#1 https://jev-lab.com
#2 https://awesomejev.com
#3 https://jevable.com
#4 https://madewithjev.com
댓글 13
이건 진짜 사용 방향 설계가 어려운것 같아서요.. 그냥 클로드에 이렇게 저렇게 해줘요 하는 자연어로 요청하는것보다 구조적으로 설계를 생각해야되어서, 이렇게 예제들 보는게 저에게는 많이 도움이 되는듯 합니다. 슈퍼마리오 게임이나 드론을 자동 컨트롤 시키는데 쓴다든지 하는것들이요.
codex에 permissionrequest hook에 등록해서 샌드박스 외부의 명령어를 승인하는 걸 jev가 결정하게 하는거? 그거 말고는 떠오르는게 없어요.
근데 굳이 그렇게까지 할 필요가 없는거라서.. 돈내고 api를 쓸 이유가 있나 싶어요.
저기 사이트 활용에제들 사람들이 계속 올리는데 기막힌것들이 있긴 합니다. 그런데 가렇게 잘 쓸려면 애초에 가만큼 대량의 데이터를 다루고ㅠ있어야한다는 전제가..
자연어를 이해할 수 있는 범용 분류기 같은 거네요?
나름 개념이 좋네요~
특히 AI 중심으로 업무를 짜게 될텐데 이 개념이 역할을 하게 되겠네요
이거 쿠팡 물류 센터같은 수백만개의 데이터를 처리하는 곳에서는 엄청나게 필뇨한 ai모델이 될듯하네요
이거 Jev떄문에 끓어올랐던 커뮤니티가 크게 한번 속은 걸지도 모르겠는데.. 그래도 제미나이를 트윅을 하던 말던 Jev가격이 성능에 비해 업계에서 절대적으로 싸다는건 현시점에서는 맞으니까요..
이거 어떻게 흘러갈지 궁금합니다 진짜.