앤스로픽과 펜타곤의 갈등, 그 이면에 숨겨진 진짜 본질

https://www.wsj.com/tech/ai/whats-really-at-stake-in-the-fight-between-anthropic-and-the-pentagon-d450c1a1?mod=tech_lead_pos1

단순한 AI 안전 가이드라인 논쟁을 넘어, 태동하는 기술의 미래를 둘러싼 '꿈'의 대결

미 국방부(펜타곤)와 인공지능 스타트업 앤스로픽 사이의 갈등은 만약 우리가 전통적인 무기를 다루고 있었다면 훨씬 이해하기 쉬웠을 것입니다. 예를 들어 앤스로픽이 총알을 파는 회사였다면, 피트 헤그세스 국방장관은 당연히 탄약 제조사가 누구를 향해, 혹은 언제 쏠 것인지에 대해 제한을 두는 것을 원치 않았을 것입니다. 하지만 인공지능은 그 이상의 존재입니다. 이는 초지능의 가능성을 품은 태동기 기술이며, 그 용도와 능력은 여전히 개발 단계에 있습니다. 따라서 이번 싸움의 실체는 AI가 과연 무엇이 될 수 있는가에 대한 '꿈'의 주도권 다툼이라 할 수 있습니다.

이러한 갈등은 현재 월스트리트와 미국 기업 전반에서 일어나고 있는 이견과 맥을 같이 합니다. 인공지능이 과연 우리 미래에 어떤 의미를 갖느냐는 질문 말입니다. 지난주 시트리니 리서치가 AI가 화이트칼라 노동력을 전멸시킬 경우 경제에 닥칠 종말론적 시나리오를 발표하자 주식 시장이 큰 혼란에 빠진 것도 이 때문입니다. "우리의 AI 낙관론이 계속 맞다면 어떻게 될까? 그리고 그것이 사실 경제에는 악재라면?"이라는 질문이 던져진 셈입니다. 실리콘밸리 노동자들 사이에서도 AI가 인간을 공장과 사무실에서 몰아내고, 가진 자와 가지지 못한 자의 격차를 벌려 '아메리칸 드림'을 사라지게 할 것이라는 공포가 핵심을 찌르고 있습니다.

앤스로픽의 CEO 다리오 아모데이는 대규모 국내 감시나 자율형 무기에 AI가 사용되는 것을 막기 위해 스스로 설정한 규칙들을 제거하라는 펜타곤의 요구에 우려를 표하고 있습니다. 아모데이는 "첨단 AI 시스템은 완전 자율형 무기를 구동할 만큼 신뢰할 수 없다"며, 미군과 민간인을 위험에 빠뜨리는 제품을 인지한 상태에서 공급하지 않겠다는 입장을 분명히 했습니다. 그의 발언은 펜타곤의 요구에 응해야 하는 금요일 마감 시한을 앞두고 나왔으며, 결국 앤스로픽이 완강한 태도를 보이자 트럼프 대통령은 연방 정부 전체가 앤스로픽과의 협력을 중단하겠다고 발표했습니다.

헤그세스 국방장관은 앤스로픽을 '공급망 위협'으로 규정했는데, 이는 앤스로픽이 미 정부와 거래하는 다른 기업들과 협업하는 길까지 막아버리는 위협적인 조치입니다. 이 틈을 타 경쟁사인 오픈AI가 발 빠르게 움직였습니다. 오픈AI는 금요일, 자신들의 안전 기준을 충족하면서도 기밀 환경에서 펜타곤이 AI를 사용할 수 있도록 하는 계약에 합의했다고 발표했습니다. 펜타곤 입장에서 이번 앤스로픽과의 싸움은 사기업, 특히 트럼프 행정부가 '워커(Woke, 깨어 있는 척하는)'라고 낙인찍은 기업이 군의 기술 사용 방식을 통제하려 한다는 우려에서 비롯되었습니다.

펜타곤의 연구 및 공학 담당 차관인 에밀 마이클은 지난 한 주 동안 앤스로픽의 AI가 적법한 목적으로만 사용될 것임을 강조하며, 대규모 국내 감시를 금지하는 법률과 자율형 무기를 규제하는 규칙이 이미 존재한다고 설명했습니다. 전직 우버 임원 출신인 그는 블룸버그 TV와의 인터뷰에서 "앤스로픽이 규칙을 만드는 것이 아니다"라며, "의회가 규칙을 만들고 대통령이 서명하면 우리는 그것을 실행할 뿐"이라고 일축했습니다.

이 논쟁의 중심에는 더 큰 질문이 자리 잡고 있습니다. AI는 그저 어려운 질문에 답하거나 효율성을 찾아주는 도구, 즉 '실버 불렛(마법의 탄환)'일까요? 펜타곤에게 그것은 적이 발사한 AI 드론 떼에 맞서 싸우는 수단일 것이고, 기업에게는 직원들을 단순 업무에서 해방시켜 더 많은 일을 하게 하는 방법일 것입니다. 아니면 AI는 그 이상의 무엇일까요? 실리콘밸리의 많은 이들은 AI가 스스로 의식을 갖고 신과 같은 권능을 발휘하며 인간의 노동을 완전히 대체할 것이라고 믿고 있습니다.

분명한 점은 국방부가 앤스로픽의 AI를 활용하는 것은 아직 초기 단계였다는 사실입니다. 아모데이는 자사의 기술이 사이버 보안과 군 및 정보 기관의 전투 작전 지원에 사용되어 왔다고 밝혔습니다. 실제로 데이터 기업 팔란티어 테크놀로지와의 파트너십을 통해 베네수엘라 지도자 니콜라스 마두로를 체포하기 위한 미군의 작전에도 앤스로픽의 AI가 사용된 것으로 알려졌습니다. 아모데이는 CBS 뉴스와의 인터뷰에서 "우리가 알기로 현장의 그 누구도 앤스로픽이 설정한 제한에 부딪힌 적이 없다"며, 군의 구체적인 계획은 알 수 없으나 실제 사용 사례에서 문제가 발생했다는 증거는 없다고 덧붙였습니다.

에밀 마이클 차관이 묘사하는 앤스로픽 AI의 활용법은 클로드(Claude)나 ChatGPT를 사용하는 일반적인 방식과 크게 다르지 않습니다. 다만 기밀 정보를 다룰 뿐입니다. 군이라는 거대 조직의 효율성을 높이기 위한 목적으로, 군수 물자 이동이나 보급품 최적화, 수많은 문서의 요약 및 일관성 검토 등 이른바 '지루한 업무'들에 활용되는 것입니다. 하지만 펜타곤은 우크라이나 등지에서 확인된 드론 기술의 발전을 고려할 때, 인간의 통제 하에 있는 자율형 무기의 잠재력이 국가 안보에 필수적이라고 보고 있습니다. 마이클 차관은 극초음속 미사일이나 드론 떼가 습격해올 때 인간보다 빠르게 대응하기 위해 이러한 기술이 필요하다고 강조했습니다.

결정적으로 펜타곤과 앤스로픽 사이의 긴장을 고조시킨 것은 하나의 가상 질문이었습니다. "자율형 무기 금지 규칙 때문에, 미국을 향한 즉각적인 미사일 공격을 막는 데 정부가 자사 모델을 사용하는 것조차 금지할 것인가?"라는 질문이었죠. 이 순간, 1983년의 SF 영화 '워게임(WarGames)' 속 시나리오가 현실처럼 다가온 것입니다.

이러한 논쟁은 AI를 향한 열풍이 만들어낸 '마법 같은 생각'의 자연스러운 부산물입니다. 한때 공상과학 소설의 소재였던 것들이 이제는 가능해 보이기 시작했습니다. 비록 실제 AI 기술이 상상하는 수준에는 미치지 못할지라도 말입니다. 그럼에도 불구하고 연구실에서의 진보와 챗봇의 눈에 띄는 개선은 더 대담한 상상을 자극하고 있습니다. 이제는 터무니없는 생각을 하는 것이 주류가 되었고, 가능성의 한계는 오직 인간의 상상력에 달려 있는 것처럼 느껴지는 시대에 살고 있습니다. 그러니 내일의 AI가 누구의 꿈을 투영할지를 결정하기 위한 오늘의 싸움은 어쩌면 당연한 수순일지도 모릅니다.