jev의 원리를 깊이 있게 이해할 필요는 없을 것 같습니다.

우리 모두가 엔지니어는 아니니 말입니다.

간략하게 개념만 알면 될 것 같은데요.

기존 LLM이 한 글자 한 글자 마다 다음 확률을 예측해서 출력하는 모델이라면,

jev는 가부를 결정 한 뒤 한번에 내보내는 모델입니다.

조금 더 쉬운 비유로 말하자면,

장애물을 피한다 vs 피하지 않는다. 라는 판단을 즉각적으로 내립니다.

굉장히 빠르고 싸다는 장점으로 인해 아직 부족함이 있는 이 모델은 엄청난 관심을 받게 됩니다.

딱 봐도 범용적이진 않겠죠.

그럼에도 관심을 받는 이유는 완전한 범용 LLM은 아닐지라도,

이런 판단이 쓰이는 분야가 굉장히 광범위하게 존재하기 때문입니다.

그리고 동시에 그 분야에서 LLM이 갖는 한계를 돌파하는 역할도 해서입니다.

예를 들어 보겠습니다.

Astra와 같이 막대한 지식과 그것을 분석하는 지능을 엮어낸 모델이 더 판단을 잘 할까요.

아니면 jev가 더 잘 할까요.

나중에는 모르겠습니다만 현재로서는 아스트라와 비벼 볼 수 없겠죠.

그럼 일정 분기 단위의 판단과 전략은 아스트라로 짜게 하고,

실시간 판단은 jev로 하게 될 수 있습니다.

이런 생각은 쉽게 할 수 있기 때문에 이미 그 예시로 비트코인 모의 매매를 jev로 구축하는 시연을 보이더니,

얼마 후에는 아스트라로 플랜을 짜고 jev 로 실시간 판단하게 하는 시연도 보입니다.

이런 예는 로봇도 가능하고, 자율 주행도 가능합니다.

그래서 먼저 시연이 나온 것이 레이스 게임입니다.

따라서 빠르고 즉각적인 판단이 필요한 모든 분야에서 이 jev는 광범위한 가능성이 열려 있습니다.

그 대안으로 목적 실현성은 같으나 구현 원리가 다른 오픈 소스 모델이 있습니다.

laya라는 모델인데요.

https://huggingface.co/convaiinnovations/laya

이 모델은 로컬로 구동이 가능한 점이 api를 통해야 하는 jev와 다른 강점으로 작용합니다.

다만 정확도가 다소 떨어진다는 점이 단점으로 꼽히고 있지만,

이는 로컬 모델인만큼 도메인 별 특화 훈련의 가능성으로 연결 됩니다.

즉, 필요한 분야에 맞게 파인튜닝을 거치면 오히려 jev 보다 나은 결과가 나올 수 있다는 말입니다.

현재 jev에 대한 관심은 당장의 성능도 성능이지만,

발전 가능성 및 활용성에 있어서 적잖은 의미를 품고 있어서가 더 큰 것 같습니다.

판단 성능을 올리기만 하면 이렇게 엄청나게 싸게 굴릴 수 있는 모델은

기존에는 가능하지 않았거나 제한적이었던 새로운 시장 창출까지 할 수 있습니다.

아마 기존 시장의 일부를 잠식하긴 하겠지만 그 얼마 안되는 부분 보다

새로 개척하는 시장이 더 크지 않을까 싶습니다.

아직 제가 조금 더 알아봐야겠지만 이러한 모델의 특징은

아마 앞서 말한 피지컬AI에 활용하기에 아주 적합한 것 같습니다.