배경훈을 비롯해 정부에서 일하는 사람들이 각자의 판단을 정책에 반영할 수 있지만
이재명 대통령은 중심을 잡아 주는 능력은 정말 탁월한 것 같습니다.
인공지능 기술에 대해 완벽하게 파악하지 않고 있음에도 불구하고,
무엇이 모두의 AI의 중심 가치 인지 ... 핵심을 파악하는 능력 말입니다.
그럼 대통령의 발언을 감안하면 이렇게 해석해 볼 수 있을 것 같습니다.
# 데이터의 가치
미국처럼 세계에 서비스를 하며 데이터를 모으는 곳과 경쟁하기 위해서는
알짜 데이터가 필요합니다.
그것을 데이터 센터의 GPU를 정부가 지원하고, 모든 국민에게 무료로 푼다는 것은
데이터의 확보에 있어서 집중 되는 역할을 하고,
그것을 정부가 독점하는 것이 아니라 모인 데이터를 참여 기업에게 공공 자원으로 제공한다면,
각 기업들은 데이터를 활용하기 좋겠죠.
# 기본 서비스
근래 오픈AI, 구글, 엔트로픽 가리지 않고 점점 기본 제공이 줄어 갑니다.
심지어 현재 성장세가 가장 가파른 엔트로픽은 3만원 유료 결제를 해도,
주간 할당을 금방 다 채워서 업무에 적극 활용하는 분들에게는 모자랍니다.
그런데 이 추세가 다시 완화 하는 방향으로 갈 것 같지는 않습니다.
중국에서도 오픈소스 공개를 점점 줄이고 상급...모델은 API로 푸는 추세가 강화 되어 가고 있고,
거의 유일하게 딥시크가 이 비용을 매우 저렴하게 갈 뿐,
현재 선두라고 할 수 있는 Qwen을 비롯한 네 곳의 비용도 올라가는 추세입니다.
미국이나 중국이나 비싸지고 있다는 말입니다.
이럴 때 모두의 AI가 이런 프런티어 서비스의 유료 구독과 무료의 중간 어디쯤에 있다면,
괜찮은 선택이 될 수 있을 것 같습니다.
그러니까 기본적인 업무로 많은 사용량은 아니지만 무료로는 부족한 분들.
옉셀 정리 같은 것들은 모두의 AI로 충분할 것이고,
대학생들의 과제 정도도 마찬가지.
요는 줄여 가는 헤택 가운데 무료가 0이고 유료가 1이면
모두의 AI는 0.5 의 위치에...무료 보다 조금 더 많이 발생하는 비용은
정부 부담으로, 그렇게 모인 데이터는 공공 데이터로 기업 활용을 풀어 주는...
이런 방향이지 않을까 싶습니다.
제 경우 쓸 때는 집중적으로 쓰다가
조금 쓸 때 조차 무료 제공량...보다는 조금 더 씁니다.
이런 애매한 구간은 모두의 AI가 다 흡수하는 거죠.
# 유료 서비스
고급 기능까지 .. 특히 헤비하게 쓰는 것까지 무료로 할 수는 없으므로,
헤비 유저들에게는 유료 서비스가 제공 될 것 같습니다.
기대치가 다른 것 같네요.
기존 우리나라 LLM은 자원이 바닥인데 그 수준은 그 바닥 대비해서 높았습니다.
절대 비교에서는 낮지만요.
그렇다고 절대 비교에서 엄청 떨어지는 것은 아니고,
중국 모델 대비 반년 정도는 뒤쳐지는 것 같습니다.
엑사원의 경우 최근에는 발표가 없었지만 예전에 발표 되었을 때를 보면,
반 년 전에 나온 Qwen하고 비슷했습니다.
그런데 이제 GPU가 생각 보다 꽤 빵빵하게 지원이 되므로,
양상이 조금 다르지 않을까 싶습니다.
또한 제가 작년 이 맘 때쯤인가.. 암튼 1년 안쪽일 겁니다.
그 사이에 주장했던 것이 어떤 선이 있다는 것으로,
지금으로 치면 Qwen 3.6 정도 성능을 말합니다.
11월 달에 모두의 AI가 Qwen3.6 정도의 성능으로 나오게 되면,
전 쓸 용의가 있습니다.
가끔 고성능이 필요하면 그 달 한번 정도 결제해서 쓰고,
그 외에요.
집에서 Qwen3.6 정도를 적극 활용하지 않고,
가끔 로컬로 테스트용도 종종 쓰는 정도인 이유는
컨텍스트 때문이었습니다.
어떤 한 서비스로 자리 잡아 나의 대화 데이터를 관리하는
서비스 개념으로는 부족해서요.
그런데 Qwen3.7 plus 와 같은 정도만 된다면,
굳이 클로드가 꼭 필요하지 않을 때라면 전 사용할 것 같습니다.
그리고 점점 더 하네스는 좋아질 것이고,
모델 성능도 올라가겠죠.
11월에 모두의 AI가 시작 되고..내년 이맘 때쯤이면.....
제가 생각하는 기준 선인 Qwen3.6 이 아니라 모두의 AI가 Qwen3.8 정도는
되어 있지 않겠습니까.
GPU가 이전 대비 비교할 수 없이 빵빵하게 지원되는데,
안 되던 때 보다 못 할 리는 없다고 보고 있습니다.
그래서 신뢰도 높은 국가가 주도적으로 진행을 해야만 어느정도 궤도에 올릴 수 있을것 같습니다. 분명 초격차 상태이지만 한국어권 내에서 경쟁력 있는 부문으로 현재 정부에서는 신중하고 성실하게 접근 시, 그러한 한국의. llm 가능할 것도 같습니다.
사용경험의 부재로, qwen모델 버전별로 어느정도 체감인지 0.x 판올림마다 어느정도 갭의 느낌일지 가늠이 잘 되지 않지만 3.8이 란 어느정도 느낌으로 생각할 수 있을지 문득 궁금해지네요,
아래 Mr.UN님이 qwen3.6에 대해서 뭔가 설명해주셨는데 라이센싱 데이터셋과 DB량 이 중요한 변수가 될 수 있나보군요..
제가 이런 글을 올린 후 생각이 다른 댓글에 일일이 반박하지 않는 이유 중에는
생각의 결이 다른 것을 바꿀 힘이 제게 없기도 하거니와
제 의견이 백퍼센트 맞지 않기도 해서입니다.
다만 중국의 인공지능은 아랫분이 지적한대로 무단 증류한 데이터셋이긴 하지만,
딱 거기까지냐면.. 그렇게 보고 있진 않습니다.
즉, 중국의 LLM은 남 눈치 안 보고, 쉽게 말해 안하무인으로 긁어 갈 수 있는 것은 긁어 가지만,
다른 한편으로는 그들 안에서도 인재를 서로 뺏고 뺏기면서
알고리즘을 만들어 냅니다. 즉, 배끼고 훔치고...거기서 끝나는 것이 아니라 정작 자기들의 돈과 힘을 쏟는 것들이 있습니다 .
Qwen3.6을 단순히 베낀 모델로만 보면 안 되며, 지식의 양, 언어 등 몇가지에서 젬마4가 더 나은 측면이 있는 대신..종합 성능 및 지능, 추론 면에서 Qwen3.6이 비슷한 모델 용량 대비 여태 나온 모든 모델 중 가장 뛰어납니다.
그리고 너무 그렇게 데이터에 걱정을 과하게 할 이유도 없습니다.
지금 파운데이션 모델 2T 이상에서 걱정 할 일을 지금 고작 32B나 100B 선에서 걱정 할 일은 전혀 아닙니다.
생각의 결이 다른 부분은... 어쩔 수 없는 대목이고요.
전 모두의 LLM의 성능을 ... 올 연말까지 Qwen3.6 이상은 어렵지 않다고 생각하고 있습니다.
이 부분은 다른 분들과 어떤 생각의 접점을 만들어 내기 여려워서... 한 번 언급하고, 그 이상 굳이 강조하진 않습니다.
오히려 Qwen3.7 MAX와 같이 공개 되지 않고 API로만 제공 되는 정도까지...넘어가는 것이 약간 걱정이 되긴 합니다.
즉, 우리나라도 언젠가는 1T이상의 모델이 만들어져야 할 것인데... 그 정도 데이터가 될 것인가..여부입니다. 전 이것도 아주 나쁘게 보진 않습니다. 데이터 확보 기법이 그간 많이 발전해 왔어서요.
다만 충분한가...에선 의문이 좀 있긴 합니다.
대통령께서 발언한 "모두의 Ai"의 개념도 상당히 범위가 넓은 것 같은데 지금의 프로젝트 구조와 자본 수준으로는 도달이 불가능하다고 장차관이 정확하게 답변을 안 하고 두루뭉술하게 넘어가는 느낌이라 불안감이 커지네요.
솔직히 목표를 극단적으로 좁혀서 단순 챗봇 + 번역 + 공공기관의 행정과 은행 창구 등을 이용하는데 있어서의 상담과 그 처리만이라도 완벽하게 대응한다는 정도로만 접근해도 100% 성공은 보장 못 한다고 봅니다.
Qwen3.6 은 1.5~2년 전의 GPT와 클로드를 무단 증류한 거의 full 버전의 데이터셋이 학습된 1T급 MAX에서 양질의 학습 신호를 받아서 30B가 자기 식대로 재구성한 결과물이기 때문에 초대형 모델 없이 30B에 해당하는 데이터셋 만으로 유사한 결과를 얻는 것은 쉽지 않습니다.
다만, Mistral 이나 Lama3 처럼 초대형 모델 없이 중형사이즈를 전용 데이터셋 만으로 성공적으로 만들어낸 예도 존재하기는 합니다만, 처음부터 그 수준을 기대하면 실망할 가능성이 높습니다.
(대규모 데이터셋이 없다면 Qwen3.6 수준은 불가능에 가깝다는 제 이전 발언을 일부 정정 하였습니다.)
qwen3.6이 현재 2024년정도까지의 엄청난 데이터가 학습된 모델인가보네요. 계속 뒷북만 치며 동일 도메인에서 격차를 두고 따라가야만 한다면 의미가 없을텐데, 젠슨황형이 제공해주신 GPU가 효율적으로 잘 활용되었으면 하네요…
오픈Ai가 보유한 GPU가 100만장, 앤트로픽이 AWS에서 100만장, 구글에서 100만장 TPU를 끌어쓰고 이번에 XAi의 것도 끌어쓰기 시작합니다.
현재 프런티어 모델의 full 학습에 사용되는 GPU는 10만장 이상에 학습시간은 6~10개월 정도에 달하며 일부 기능 마이너 업데이트는 5~10만장으로 2~3개월 페이스로 병렬로 여러 개의 라인이 돌아가는 구조일 겁니다. 거기에 서비스에도 GPU를 사용을 하고 있죠.
모두의 Ai는 국민 만을 대상 하므로 서비스 필요 수량은 상대적으로 적지만 솔직히 제대로 학습이 연속해서 돌아가면서 4천만 국민이 충분히 일반 업무와 생활에 쓸 수 있고 산업, 연구, 군사까지 커버하려면 1.5~2GW 수준의 AI데이터 센터가 필요하고 100만장 정도의 GPU를 확보해서 추론에만 30만장 정도는 배정해야 합니다. 그에 맞는 발전시설 등도 필요할 것이고요. 예산적으로는 200조 전후 + 매년 30~40조 정도가 필요할 것 입니다. 인프라와 운영비만 이러므로 데이터셋과 모델 개발에 대한 예산은 추가로 더 투입이 되어야 하죠.
그게 안 된다면 철저하게 현실에 맞춰서 확보된 그리고 1~2년 내에 추가로 확보 가능한 수량을 정확히 잡고, 데이터셋 큐레이션 방향과 범위를 현실에 맞게 명확히 하고 서비스할 모델의 크기와 수준을 현실에 맞춰서 명확히 규정하지 않으면 안 되는 입장인데, 저렇게 막연히 다 될 것 처럼 답해버리는 모습이 답답하네요.