상황 인식: 앞으로의 10년

레오폴드 아셴브레너, 2024년 6월

미래는 샌프란시스코에서 가장 먼저 보입니다.

지난 1년 동안, 사람들의 관심은 100억 달러 규모의 컴퓨팅 클러스터에서 1,000억 달러, 그리고 이제는 조 단위 클러스터로 옮겨갔습니다. 매 6개월마다 회의실에서 논의되는 금액에 0이 하나씩 더해지고 있습니다. 그 이면에서는 앞으로 남은 10년 동안 사용할 수 있는 모든 전력 계약을 확보하려는 치열한 경쟁이 벌어지고 있으며, 가능한 모든 전압 변압기를 구하려는 움직임도 있습니다. 미국의 대기업들은 오랜만에 미국 산업의 힘을 총동원하기 위해 수조 달러를 쏟아부을 준비를 하고 있습니다. 10년이 끝날 무렵, 미국의 전력 생산량은 수십 퍼센트 증가할 것이며, 펜실베이니아의 셰일 가스전부터 네바다의 태양광 발전소까지 수억 개의 GPU가 돌아갈 것입니다.

인공 일반지능(AGI) 경쟁이 시작되었습니다. 우리는 생각하고 추론할 수 있는 기계를 만들고 있습니다. 2025년이나 2026년쯤이면 이 기계들은 많은 대학 졸업생들보다 더 뛰어난 능력을 갖추게 될 것입니다. 10년이 끝날 무렵, 이 기계들은 당신이나 나보다 더 똑똑해질 것이며, 진정한 의미의 초지능을 갖추게 될 것입니다. 그 과정에서, 수십 년 동안 보지 못했던 국가 안보 관련 조치들이 발동될 것이며, 곧 '프로젝트'가 시작될 것입니다. 운이 좋다면 우리는 중국 공산당(CCP)과의 전면적인 경쟁에 들어설 것이고, 운이 나쁘다면 전면전이 벌어질 수도 있습니다.

지금은 모두가 AI에 대해 이야기하고 있지만, 다가올 일에 대해 제대로 이해하고 있는 사람은 거의 없습니다. 엔비디아의 분석가들은 여전히 2024년이 정점에 가까울 것이라고 생각하고 있습니다. 주류 전문가들은 "그저 다음 단어를 예측하는 것일 뿐"이라는 고의적인 무지에 빠져 있습니다. 그들은 단지 과장된 이야기나 기존의 비즈니스 패턴만을 보고 있으며, 기껏해야 인터넷 규모의 기술 변화 정도로만 생각하고 있습니다.

머지않아 세상은 깨어날 것입니다. 하지만 지금 이 순간, 상황을 제대로 파악하고 있는 사람은 아마도 몇 백 명 정도일 것입니다. 그들 대부분은 샌프란시스코와 AI 연구소에 있습니다. 어떤 운명의 장난인지, 저도 그들 중 한 명이 되었습니다. 몇 년 전만 해도 이 사람들은 미친 사람 취급을 받았지만, 그들은 추세를 믿었고, 그 덕분에 지난 몇 년간 AI의 발전을 정확히 예측할 수 있었습니다. 이들이 앞으로 몇 년에 대해서도 맞을지는 두고 봐야 할 일입니다. 하지만 이들은 제가 만난 사람들 중 가장 똑똑한 사람들이며, 바로 이 기술을 만들고 있는 사람들입니다. 이들이 역사의 한 페이지에 작은 각주로 남을지, 아니면 실라드, 오펜하이머, 텔러처럼 역사에 길이 남을지는 아직 알 수 없습니다. 하지만 이들이 미래를 어느 정도라도 정확히 보고 있다면, 우리는 엄청난 변화를 맞이하게 될 것입니다.

제가 보고 있는 것을 여러분께 말씀드리겠습니다.

---

SITUATIONAL AWARENESS: The Decade Ahead

Leopold Aschenbrenner, June 2024

You can see the future first in San Francisco. 

Over the past year, the talk of the town has shifted from $10 billion compute clusters to $100 billion clusters to trillion-dollar clusters. Every six months another zero is added to the boardroom plans. Behind the scenes, there’s a fierce scramble to secure every power contract still available for the rest of the decade, every voltage transformer that can possibly be procured. American big business is gearing up to pour trillions of dollars into a long-unseen mobilization of American industrial might. By the end of the decade, American electricity production will have grown tens of percent; from the shale fields of Pennsylvania to the solar farms of Nevada, hundreds of millions of GPUs will hum.

The AGI race has begun. We are building machines that can think and reason. By 2025/26, these machines will outpace many college graduates. By the end of the decade, they will be smarter than you or I; we will have superintelligence, in the true sense of the word. Along the way, national security forces not seen in half a century will be unleashed, and before long, The Project will be on. If we’re lucky, we’ll be in an all-out race with the CCP; if we’re unlucky, an all-out war.

Everyone is now talking about AI, but few have the faintest glimmer of what is about to hit them. Nvidia analysts still think 2024 might be close to the peak. Mainstream pundits are stuck on the willful blindness of “it’s just predicting the next word”. They see only hype and business-as-usual; at most they entertain another internet-scale technological change. 

Before long, the world will wake up. But right now, there are perhaps a few hundred people, most of them in San Francisco and the AI labs, that have situational awareness. Through whatever peculiar forces of fate, I have found myself amongst them. A few years ago, these people were derided as crazy—but they trusted the trendlines, which allowed them to correctly predict the AI advances of the past few years. Whether these people are also right about the next few years remains to be seen. But these are very smart people—the smartest people I have ever met—and they are the ones building this technology. Perhaps they will be an odd footnote in history, or perhaps they will go down in history like Szilard and Oppenheimer and Teller. If they are seeing the future even close to correctly, we are in for a wild ride. 

Let me tell you what we see.