AI 모델 개발을 민간 회사가 주도하는 방식에서 벗어나야 합니다. 미국이나 중국은 그렇게 할 수 있습니다. 자원이 많으니까 여러 회사가 경쟁하면서도 충분한 GPU와 인재를 확보하고 그 경쟁속에서 혁신이 일어나고 그러는 것이지요.
한국은 그렇게 하기가 더 어려울 수 있습니다. 차라리 한국의 (그나마) 있는 프론티어 LLM 개발이 가능한 인력을 전부 모아서, 가능한 GPU를 전부 몰아준다음에, 그 한 팀이 개발을 주도하도록, 그리고 개발의 감독은 국가가 하도록 해야 합니다.
2026년 반도체 초과세수가 대략 100조 이상 예상이 된다는데, 저는 여기에서 한 최소한 20조 이상은 이 독자적 프론티어 모델 개발에 필요한 GPU(와 데이터센터) 구매, 그리고 해외 인재 영입에 사용해야 한다고 생각합니다. 연봉 100억을 주더라도 OpenAI, Anthropic, Google 등에서 gpu 수십만장 단위의 런을 굴려본 경험이 있는 사람을 데려올 수 있다면 데려와야죠.
20조면 B300을 대략 16만장 정도 구할수 있는데(GPU 가격만이 아니라 데이터센터 구축 총 비용입니다.), 이정도면 지금 독파모 팀들이 보유한 700~800장 규모와는 비교조차 안되고, 가장 큰 규모의 모델을 만들기에도 충분한 컴퓨팅 파워입니다. 방금 출시된 Opus 5 의 지식 컷오프가 올해 5월인데, 출시전 테스트등을 포함하면 모델자체를 만드는데는 2달 이하, 어쩌면 한달 이하가 걸렸을거고, Opus급의 트레이닝에 GPU나 TPU 10만장 이상을 쓸리는 보통 없으니, 몇만장 단위로 굴렸을거라고 추정해보는게 합리적이라고 생각합니다. 제가 하고싶은 주장은 우리가 돈을 쓸 의지만 있다면 이정도 규모의 모델을 만드는 실험을 몇개씩 동시에 해볼수 있다는 겁니다. 이것보다 더 큰 Mythos급의 모델도 만들어볼수 있고요.
후발주자가 따라잡을수 있느냐라는 의문에는 Anthropic도 후발주자로 시작했다는 사례를 들고 싶습니다. 읽어주셔서 감사합니다.
국가가 감독한다 = 공무원이 최종 의사결정 또는 개입한다 = 그냥 그런 게 나온다.
여기서 벗어날 가능성은 2%미만입니다.
그리고 미국이나 중국도.. 언젠가는 사실상의 국유화가 될거라는 예상이 많습니다. 우리가 그걸 좀 더 빨리 하자는거죠.
이미 나온 모델을 이어붙여서 써먹기만 바쁜 교육들보다는
내부를 프롬 스크레치로 뜯어고쳐 새로운 알고리즘을 발명하면서 언어를 수학적으로 처리해줄 능력이 매우 필요한 상황에도 딥러닝 기반의 기본 교육만 하고있거든요
원리 이해만 시키다간 다 늦습니다
결론은 크게 보이지 않는 부분에서도 다시 설계해볼 줄 아는 도전이 많이 필요합니다
눈치보느라 다들 기피하고, 뭐 하나 새롭게 하자고하면 시기하고 따시키고 그딴 문화가 너무 깊게 자리잡혀있어요.