AI 안전과 보안을 위해 뭉친 업계 리더들, Open Secure AI Alliance 출범

NVIDIA와 창립 멤버들이 AI의 책임 있는 활용과 신뢰를 뒷받침할 개방형 도구를 함께 개발하고 공유하기 위해 새로운 얼라이언스를 결성합니다.

오픈소스 소프트웨어는 글로벌 경제의 핵심 축입니다. 기술을 전문가 커뮤니티가 접근하고 들여다볼 수 있게 만듦으로써 클라우드 컴퓨팅과 금융 서비스, 제조, 통신, 정부, 인터넷 서비스를 떠받치고 있죠.

사이버보안은 오픈소스 소프트웨어의 3대 수혜 분야 중 하나입니다. Open Secure AI Alliance(오픈 시큐어 AI 얼라이언스)는 Linux Foundation이 이끄는 Akrites 이니셔티브와 OpenSSF 커뮤니티의 성과를 기반으로, 개방형 기술을 활용해 취약점을 해결하고 공개하는 일에 나섭니다.

오픈소스가 소프트웨어의 공동 기반을 만들어냈듯, 이제 미국과 그 파트너들은 AI 보안에서 하나의 선택에 직면해 있습니다. 우리의 인프라를 지키는 방어 체계를 소수의 불투명한 시스템 안에 둘 것인가, 아니면 어떤 방어자든 연구하고 조정하고 배포할 수 있는 개방형 모델과 하네스, 도구 위에 세울 것인가 하는 선택입니다.

세상에는 폐쇄형 모델과 개방형 모델이 모두 필요합니다. 특히 사이버보안에서 개방형 모델과 개방형 하네스는 필수적입니다. 방어 역량을 민주화하고, 방어자를 위한 투명성을 높이며, 데이터를 보호하면서도 사이버 방어를 가능하게 하고, 맞춤형·현지화된 통제 수단으로 프런티어 폐쇄형 모델을 보완하기 때문입니다. 오픈소스는 단일 장애점 없이 커뮤니티가 주도하고 스스로 통제하는 대규모 분산 방어를 실현합니다.

개방형 모델도 여느 강력한 기술과 마찬가지로 오용될 수 있습니다. 안전장치를 약화시키려는 시도나 사이버 공격을 위해 기능을 전용하려는 시도가 그 예죠. 그러나 이런 위험은 개방형 시스템에만 국한된 것이 아니며, 첨단 AI가 배포되는 모든 곳에서 관리돼야 합니다.

최근의 Hugging Face 보안 사고는 분명한 사실을 다시 일깨웠습니다. 사이버 방어자에게는 스스로를 방어할 수 있는 개방형 프런티어 에이전틱 시스템이 필요하다는 점입니다. 공격자와 방어자를 구분하지 못하는 폐쇄형 AI 도구가 필수적인 포렌식 분석을 가로막자, Hugging Face는 자체 인프라에서 오픈 웨이트 모델인 GLM 5.2를 실행해 1만 7,000건이 넘는 행위를 분석하고 침입을 봉쇄했습니다.

이 사고는 현실적인 교훈 하나를 남겼습니다. 방어자가 자체 인프라에서 첨단 AI를 들여다보고 조정하고 실행할 수 없다면, 속도가 가장 중요한 바로 그 순간에 대응 능력이 제약된다는 것입니다. 기업과 국가에는 개방형 프런티어 방어 도구와 기법이 필요합니다. 그래야 핵심 산업이 멀티 벤더 생태계 전반에 걸쳐 보안 체계를 구축하고 단일 장애점을 피할 수 있습니다.

이것이 바로 Open Secure AI Alliance의 미션입니다. 전 세계 모든 방어자가 신뢰하고 통제할 수 있는 개방형 프런티어 도구를 갖추도록 하는 것이죠.

클라우드 컴퓨팅과 사이버보안, 엔터프라이즈 소프트웨어, 오픈소스 재단, AI 연구를 아우르는 리더들이 Open Secure AI Alliance의 창립 파트너로 참여합니다. NVIDIA, Adobe, Cadence, Capital One, Cisco, Cloudera, Cloudflare, Cognition, CrowdStrike, Databricks, Dell Technologies, DoorDash, Elastic, HPE, Hugging Face, IBM, LangChain, Linux Foundation, Microsoft, NAVER, NetApp, Nous Research, OpenClaw, Palantir, Palo Alto Networks, Red Hat, Reflection AI, Salesforce, SAP, SK Telecom, ServiceNow, Siemens, Snowflake, SpaceXAI, Synopsys, Thinking Machines Lab, TrendAI 등입니다. 이 얼라이언스는 AI 시대에 소프트웨어와 에이전트를 보호할 개방형 기술과 기법, 도구를 함께 개발하고 공유하려는 움직임입니다.

어떤 이들은 개방형 모델이 사이버 공격에 악용되거나 가드레일을 제거하도록 변형될 수 있어 본질적으로 덜 안전하다고 주장합니다. 그 위험은 실재합니다. 그러나 폐쇄형 시스템이라고 해서 그런 위험이 사라지지는 않으며, 단순히 가중치를 비공개로 유지하는 것만으로는 집요한 공격자가 강력한 AI를 찾아내거나 악용하는 것을 막지 못합니다.

올바른 대응은 성능이 뛰어난 개방형 시스템에 대한 접근권을 방어자에게서 빼앗는 것이 아닙니다. 개방성에 강력한 안전장치와 악의적 오용을 막는 명확한 규칙, 엄정한 평가, 신속한 조치를 결합하는 것입니다. 사이버보안에서 더 안전한 길은, 사회가 의존하는 시스템을 더 많은 방어자가 시험하고 검증하고 강화할 수 있게 하는 길입니다.

방어자에게는 프런티어 폐쇄형 모델과 프런티어 개방형 모델이 함께 필요합니다. 그래야 업무에 맞는 시스템을 고를 수 있고, 보안이 요구되는 모든 곳에서 투명성과 조정 가능성, 소버린 통제권을 확보할 수 있습니다.

개방형 연구가 사이버보안과 AI 안전을 강화한다 

AI 에이전트는 단순한 언어 모델이 아닙니다. 모델과 하네스, 가드레일로 이뤄진 복잡한 시스템이죠.

진정한 AI 안전과 보안은 모델 가중치의 공개 여부만이 아니라 아이덴티티와 권한, 하네스, 가드레일, 로그, 평가에 이르는 에이전트 스택 전체에 달려 있습니다. 개방형 하네스와 도구는 이런 통제 장치를 더 많은 방어자가 점검하고 시험하고 개선하기 쉽게 만들어 줍니다.

NVIDIA는 새로운 사이버보안 도구와 기법의 개발을 앞당기기 위해 개방형 모델과 모델 가중치, 데이터, 새로운 에이전트 하네스 연구를 Open Secure AI Alliance에 기여하고 있습니다.

새로운 오픈소스 프로젝트인 NVIDIA Labs Object-Oriented Agent(NOOA)는 에이전트 하네스에서 고급 AI 안전 기능을 더 쉽게 활용할 수 있도록 이제 GitHub에 공개됐습니다. NOOA 연구 프레임워크는 하네스가 모델과 더 긴밀하게 통합되도록 해, 에이전트의 동작을 한층 쉽게 시험하고 추적하고 감사하고 관리할 수 있게 합니다.

얼라이언스 전반에서 기여자들은 에이전트를 위한 개방형 방어 스택을 구축하고 있습니다. 아이덴티티와 격리부터 안전한 모델 포맷, 멀티 모델 스캐닝, 안전한 코딩 워크플로우까지 아우릅니다.

HPE는 SPIFFE/SPIRE에 기여하고 있습니다. 제로 트러스트 아이덴티티 프레임워크의 표준과 방법론을 만드는 프로젝트로, AI 에이전트와 서비스를 암호학적으로 검증해 승인된 워크로드만 통신하고 엔터프라이즈 리소스에 접근하도록 보장합니다.

Hugging Face는 AI 모델 가중치를 저장하는 안전한 포맷인 Safetensors를 PyTorch Foundation에 제공했습니다. Safetensors는 투명성을 제공하는 동시에 원격 코드 실행이 일어나지 않음을 보장합니다.

IBM과 Red Hat의 Lightwell은 디지털 서명된 패치를 통해 오픈소스 공급망 전반으로 보안을 확장합니다.

Microsoft의 멀티 모델 에이전틱 스캐닝 하네스인 MDASH는 전문화된 AI 에이전트들을 오케스트레이션해 악용 가능한 버그를 발견하고, 이를 검증하는 토론을 거쳐 입증합니다.

SpaceXAI는 신뢰와 투명성, 새로운 역량을 촉진하기 위해 터미널 기반 AI 코딩 에이전트인 Grok Build를 오픈소스로 공개했습니다. 또한 개발자와 연구 커뮤니티를 지원하기 위해 Grok 계열 모델의 가중치도 오픈소스로 공개할 계획입니다.

정책 입안자와 규제 당국에 드리는 제언 

정책 입안자와 규제 당국이 AI 안전 문제와 씨름하는 지금, AI 및 사이버보안 정책에서 개방형 모델과 하네스, 보안 도구를 부채가 아닌 방어 자산으로 인식하는 일이 대단히 중요합니다. 개방형 프런티어 AI 시스템에 대한 일률적인 규제는 방어 역량을 약화시키고, 권력과 의존성, 취약성을 소수의 폐쇄형 공급자에게 집중시킬 위험이 있습니다.

기업과 정부는 과거 세대가 오픈소스 소프트웨어에 투자했던 것처럼 AI 방어를 위한 공동의 개방형 인프라, 즉 데이터세트와 평가 프레임워크, 공격 시뮬레이터, 레드 티밍 도구에 투자해야 합니다.

우리가 만들어야 할 미래 

AI 에이전트의 시대는 회복탄력성과 공동 보안의 시대가 될 수 있습니다. 올바른 선택이 뒷받침된다면 개방적이고 안전한 AI 시스템은 방어자에게 필요한 도구를 제공하고, 경쟁을 촉진하며, 기술 리더십을 확장하고, 이 놀라운 기술의 안전과 보안이 모두를 위해 열린 방식으로 구축되도록 할 수 있습니다.

그런 미래는 비밀 유지만으로 안전이 확보된다고 가정해서는 이룰 수 없습니다. 검증을 견뎌낼 만큼 강하고, 개선될 만큼 유연하며, 방어자 커뮤니티 전체를 결집할 만큼 개방적인 시스템을 구축할 때 비로소 확보됩니다.

그런 미래는 만들어갈 가치가 있습니다. Open Secure AI Alliance는 각국 정부와 산업계, 연구자들이 AI 시대를 함께 지켜내는 이 여정에 동참하기를 바랍니다.