글 교정 및 검수 : 폴라리스 알파(2025년 11월 중으로 출시 예정인 GPT-5.1 비추론 모델의 스텔스 버전)
지금 OPENAI가 자신들의 인공지능에 가져가는 전략은 의외로 단순합니다.
“힘이 부족하면, 더 큰 힘으로 밀어붙인다.”
현재 우리가 알고 있는 GROK, GEMINI, GPT 같은 모델들은 모두 트랜스포머 계열 구조를 공유하고 있는데, 이들의 근본적인 한계 중 하나가 바로 “모른다”는 개념을 모른다는 겁니다.
겉으로 보기엔 “잘 모르겠어요”라고 말하더라도, 그건 정말 몰라서가 아니라, “그렇게 대답하라”고 학습됐기 때문에 그렇게 대답하는 것에 가깝습니다. 이 때문에 인간이 이해하는 의미의 재귀적 자기개선 루프를 그대로 구현하기가 어렵습니다.
여기에 더해, 수확체감의 법칙이 적용되면서, 단순히 데이터와 파라미터를 늘리는 것만으로는 예전처럼 성능이 쭉쭉 올라가지 않게 되었죠.
이 한계를 뚫을 방법을 고민하던 와중에, 2022년경 등장한 개념이 바로 Chain of Thought, 즉 ‘생각의 사슬’입니다.
OPENAI는 여기에서 한 발 더 나가 “강화학습”을 결합하는 방향을 떠올립니다.
답만 뽑는 게 아니라, 생각의 과정을 길게, 깊게 따라가게 만들고, 그 과정을 강화학습으로 다듬는 방식.
이런 아이디어들이 쌓여서, 결국 o1 같은 에이전트형 모델의 기반이 되는 흐름이 만들어진 겁니다.
이 실험을 통해 밝혀진 중요한 사실이 하나 있습니다.
- LLM 자체가 스스로를 직접 재설계하는 재귀개선을 하기는 어렵지만,
- 충분한 “추론 시간”을 주면, 더 나은 합성데이터를 스스로 만들어낼 수 있다는 것.
- 그리고 이 추론 시간(test-time compute)을 늘리면 늘릴수록, 그 합성데이터의 품질이 실제로 좋아진다는 것.
여기서 개발자들의 머릿속에 자연스럽게 이런 루프가 떠오릅니다.
1) 강한 모델에게 넉넉한 추론 시간을 준다 →
2) 그 결과물(합성데이터)을 사람이 검수·정제한다 →
3) 정제된 데이터를 다시 모델에 학습시킨다 →
4) 모델은 더 강해진다 → 반복.
이 과정을 계속 반복하면, 이론상 모델은 점점 더 정교해지고, 더 깊이 추론하고, 더 좋은 데이터를 뽑아낼 수 있게 됩니다.
OPENAI는 이 “test-time compute” 기반 강화 루프가, AGI로 가는 문을 여는 핵심 키가 될 수 있다고 본 거죠.
그렇다면 문제는 하나로 정리됩니다.
“이 말도 안 되는 양의 추론과 학습을 실제로 돌릴 만큼의 연산력을 어떻게 확보할 것인가?”
결론은 이겁니다.
“인간 연구자들이 몇십 년에 걸쳐 쌓아야 할 R&D를 기다리느니,
그냥 인공지능에게 설계도를 그릴 수 있을 정도의 ‘폭발적인 연산력’을 몰아주자.”
이게 지금 OPENAI의 전략입니다.
Scaling Deep Learning – 그래서 필요한 건 ‘천문학적인 연산력’
샘 알트먼과 OPENAI는 여기서 거의 미친 수준의 결론에 도달합니다.
“진짜 말 그대로, 폭발적이고 천문학적인 연산력이 필요하다.”
그래서 나온 게 바로 초대형 데이터센터 프로젝트, 일명 ‘스타게이트 프로젝트’입니다.
OPENAI와 파트너들이 텍사스 애빌린(Abilene)에 플래그십 부지를 두고, NVIDIA와 함께 어마어마한 규모의 데이터센터를 짓고 있습니다.
공개된 이야기들을 종합하면;
- 2025년 말까지 10GW(기가와트)급 데이터센터 규모를 구축하는 것이 1차 목표,
- 최종적으로는 30GW 수준까지 키우겠다는 계획을 밝히고 있습니다.
감이 잘 안 오실 수 있는데, 대략적으로 말해서,
10GW면 최신 엔비디아 GPU 수백만 개를 꽂아 돌릴 수 있는 수준입니다.
GB200 기준으로 생각해 봅시다.
- GB200 한 대의 연산력이 약 4,500 PFLOPS(페타플롭스)라고 했을 때,
- 이걸 500만 개 규모로 잡으면, 총 연산력은 약 22,500,000,000 PFLOPS.
- 이걸 제타플롭스로 환산하면, 약 20,250 ZFLOPS 수준입니다.
- 이를 3배 규모인 30GW까지 확장하면, 60,750 ZFLOPS,
즉 약 67.5 YFLOPS(요타플롭스)에 해당하는, 말 그대로 괴물 같은 숫자가 됩니다.
만약 이 계획이 현실화된다면,
OPENAI는 인류 역사상 전례 없는 연산력을 가진, 초거대 연산 기업이 되는 셈입니다.
그리고 그 연산력을 어디에 쓰느냐?
바로 test-time compute와, 거기에 기반한 자기강화 루프에 쏟아붓는 겁니다.
- AI에게 긴 추론 시간을 주고,
- 그 사이에 수많은 가설, 설계, 코드, 이론, 시뮬레이션을 만들어내게 하고,
- 그 결과물을 인간 전문가들이 검수·피드백하고,
- 다시 그걸 학습시키며 모델을 한 단계씩 끌어올리는 구조.
이게 제대로 돌아가기 시작하면 어떻게 될까요?
정직하게 말하면, 아무도 모릅니다.
하나 확실한 건,
그 정도 연산력이 실제로 가동되기 시작하면,
“AI가 쏟아내는 설계도와 아이디어를 검수하는 일”만으로도
전 세계의 탑티어 전문가들이 달라붙어 하루 종일 봐도 벅찰 수 있다는 점입니다.
그게 지금 OPENAI가 바라보는 그림이고, 우리가 마주하게 될지도 모를 미래입니다.
OPENAI가 목표로 잡은 전력 규모가 어느 정도인지 감이 잘 안 왔는데,
국가 단위 전력 설비 용량과 비교해 보니까 답이 나오네요.
30GW면 어마어마한 수준이네요.
* OPENAI 목표 전력: 30GW
* 국가별 전력 설비 용량
- 중국: 3,000GW
- 미국: 1,250GW
- 인도: 440GW
- 일본: 310GW
- 러시아: 250GW
- 독일: 240GW
- 브라질: 210GW
- 캐나다: 155GW
- 대한민국: 145GW
국가별 설비 용량과 나란히 놓고 보니, 30GW가 어느 정도 위상인지 확실히 체감됩니다.
앞으로도 좋은 글 부탁드립니다~~