2026년 7월 27일

다리오 아모데이(Dario Amodei), 앤스로픽 CEO

최근 며칠 사이 오픈 웨이트 모델, 특히 중국 모델을 두고 논란이 많더군요. 일부 미 정부 관계자들이 미국 기업의 중국산 오픈 웨이트 모델 사용을 금지하는 방안을 검토 중이라는 보고가 들려옵니다. 이에 대응해 많은 테크 기업들이 오픈 웨이트 모델을 지지하는 서한에 서명했고, 심지어 일부에서는 앤스로픽이 사업적 이득을 챙기려고 오픈 웨이트 모델 금지를 주장한다는 비난까지 하고 있습니다. 제 글을 읽어보신 분들이라면 제가 이런 금지 조치를 유용한 수단으로 본 적이 없다는 걸 잘 아시겠지만, 다시 한번 명확히 말씀드려 오해를 없애겠습니다. 앤스로픽은 오픈 웨이트 모델의 금지를 주장한 적이 단 한 번도 없습니다.

위험한 능력을 갖추지 않은 오픈 웨이트 모델은 그야말로 '공공재'입니다. 실행에 필요한 컴퓨팅 자원 외에는 비용이 들지 않으면서, 기업과 개발자, 그리고 연구자들에게 엄청난 가치를 제공하기 때문입니다.

단순히 보호무역주의적인 관점에서의 금지 조치는 제가 가장 심각하게 우려하는 국가 안보 문제를 전혀 해결하지 못합니다. 구체적으로 제가 걱정하는 '악몽 같은 시나리오'는 두 가지입니다. 저는 6개월 전 The Adolescence of Technology라는 에세이에서 이를 상세히 설명했으며, 수년 동안 일관되게 이 입장을 유지해 왔습니다.

1. 가장 큰 우려는 권위주의 정부가 미국보다 더 강력한 AI 모델을 구축하는 상황입니다. 비단 중국 공산당(CCP)뿐만 아니라—물론 CCP가 가장 실질적이고 위협적인 존재이긴 하지만—이런 정권들이 AI를 이용해 영구적인 군사적 우위를 점하거나, 자국민을 극심하게 탄압하는 도구로 쓰는 것을 경계합니다. 이는 미 정부 내부에서도 널리 공유되는 걱정입니다. 밴스 부통령은 작년 파리에서 "권위주의 정권들이 AI를 훔쳐 군사, 정보, 감시 능력을 강화하고 있다"고 경고했고, 2026년 정보 공동체(Intelligence Community)의 연례 위협 평가에서도 "타 강대국들의 가파른 AI 발전이 미국의 경제 경쟁력과 국가 안보 우위를 위협하고 있다"고 분석했습니다. 여기서 모델이 오픈 웨이트로 공개되었는지 여부는 중요하지 않으며, 미국 기업이 이를 사용하느냐 마느냐는 더더욱 상관없는 문제입니다. 실제로 가장 위험한 모델은 비밀리에 학습되어 인민해방군(PLA)의 드론 작전이나 국가안전부의 감시 및 탄압용으로만 제공되는 모델일 것입니다.

2. 두 번째 우려는 강력한 AI 모델이 사이버 공격이나 생물학적 공격에 악용되거나, 심각한 정렬(alignment) 문제를 일으키는 리스크입니다. 오픈 웨이트 모델은—그것이 중국산이든 어디 것이든—폐쇄형 모델보다 잠재적으로 더 위험할 수 있습니다. 가드레일을 적용하기 어렵고 사용 내역을 모니터링할 수 없으며, 한 번 공개된 웨이트는 다시 회수할 수 없기 때문입니다. 하지만 그렇다고 해서 미국 기업의 사용을 금지한다고 이 리스크가 사라질까요? 악의적인 공격자가 굳이 합법적인 미국 기업의 형태를 띠고 활동할 리가 없지 않습니까. 그런 금지는 그저 미국 AI 기업들을 경쟁으로부터 보호하는 효과만 있을 뿐, 제 목표는 결코 그것이 아니었습니다.

이러한 우려를 해결하기 위해, 저와 앤스로픽이 일관되게 주장해 온 다음 세 가지 대책을 지지합니다.

-강력한 칩과 칩 제조 장비의 중국 수출을 막아야 합니다. 동시에 기승을 부리는 밀수나 우회 경로를 철저히 단속해야 합니다. 중국은 자체 생산 능력이 제한적입니다. 따라서 스케일링 법칙($Scaling Laws$)에 따라, 미국 칩 없이는 미국보다 더 강력한 모델을 만들 수 없습니다. 이것이 첫 번째 위협을 차단하는 가장 효율적이고 직접적인 방법이며, 미국 법의 영향력이 미치지 않는 곳에서의 모델 학습을 방해함으로써 간접적으로 두 번째 위협까지 억제하는 효과가 있습니다.

-산업 규모의 '증류(distillation)' 작업에 강력히 대응해야 합니다. 증류는 모델을 바닥부터 학습시키는 것보다 훨씬 적은 연산량으로도 가능합니다. 중국이 보유한 칩 수의 한계를 넘어 예상보다 훨씬 뛰어난 모델을 만들 수 있게 함으로써 칩 금지 조치를 사실상 무력화하는 수단이 됩니다. 물론 증류만으로 미국과 대등하거나 그 이상의 능력을 갖추기는 어렵겠지만, 격차를 불과 몇 달 수준으로 좁힐 수는 있습니다. 이런 작업을 수행하는 기업들이 오픈 웨이트 모델을 내놓는 경우가 많지만, 여기서 핵심은 '오픈 웨이트'라는 형식이 아니라 '미국을 추월하려는 권위주의 국가의 지원을 받는 작업'이라는 실체입니다. 이를 저지하기 위한 정책적 개입이 필요합니다. 오픈 웨이트 모델 전체를 무조건 금지하는 것은 올바른 해결책이 아니며, 저희가 요구한 바도 아닙니다.

-능력이 충분히 강력한 모든 모델은 오픈·폐쇄 여부를 막론하고 의무적인 안전 테스트를 거쳐야 합니다. 두 번째 위협을 막는 최선책은 출시 전 사이버, 생물학적 위험, 정렬 문제를 직접 테스트하는 것입니다. 이 아이디어는 사실상 업계의 합의에 가깝다고 봅니다. 최근 트럼프 행정부가 이 방향으로 움직이고 있고, 업계에서도 모델의 국적이나 공개 여부와 상관없이 고성능 모델에 테스트를 적용하자는(단, 스타트업이나 학계의 저성능 모델은 제외) 제안이 나오고 있어 고무적입니다. 오픈 모델이 정말 더 위험한지, 그리고 그 위험을 완화할 수 있는지는 미리 단정 짓지 말고 테스트를 통해 증명해야 합니다. 앤스로픽의 모듈형 학습 전략 같은 최신 연구가 오픈 웨이트 모델의 안전성을 높이는 유망한 방법이 될 수도 있겠죠. 물론 이 테스트가 실효성을 거두려면 전 지구적인 협력이 필요하며, 중국 공산당까지 참여해야 합니다. 불가능해 보일 수 있지만, 제가 The Adolescence of Technology에서 썼듯 AI 생물 무기 방지는 중국의 이익과도 일치하기 때문에 제한적인 협력이 가능할 것이라 생각합니다.

이제 그 공개 서한에 대해 말씀드리겠습니다. 저는 서한의 많은 내용에 동의합니다. 오픈 웨이트는 AI 경제에 대한 접근성을 넓히고, 특정 활용 사례에서 경쟁을 촉진하며, 고객에게 더 많은 제어권을 줍니다. 증류 문제는 앞서 말씀드린 것처럼 정밀한 법적·상업적 틀 안에서 해결해야 합니다. 하지만 오픈 웨이트 모델이 반드시 안전장치 개발을 쉽게 만든다거나, 광범위한 접근성이 공격자보다 방어자에게 반드시 유리하다는 주장은 동의하기 어렵습니다. 저는 오히려 그 반대일 가능성이 높다고 봅니다. 예를 들어, 생물학 분야에서는 '공격자와 방어자의 비대칭성'이 매우 강합니다. 고성능 모델을 통해 흔한 재료만으로 팬데믹 수준의 바이러스를 빠르게 무기화할 수 있는 반면, 이에 대응하는 방어 체계는 (Operation Warp Speed 사례에서 보았듯) 최단 기간으로 잡아도 수년이 걸리는 운영 작업입니다. 이런 문제는 미리 가정할 것이 아니라, 출시 전 엄격한 테스트를 통해 실증적으로 답을 내야 합니다.

요약하자면, 저와 앤스로픽은 오픈 웨이트 모델이라는 카테고리 자체를 금지하자고 주장한 적이 없으며, 앞으로도 그럴 생각이 없습니다. 우리가 집중해야 할 것은 강력한 칩이 권위주의 정권의 손에 들어가지 않게 막는 것, 산업 규모의 증류 작업을 중단시키는 것, 그리고 충분한 능력을 갖춘 모든 모델에 대해 안전 테스트를 의무화하는 것입니다.

출처 : https://www.anthropic.com/news/position-open-weights-models