트럼프 행정부가 앤트로픽(Anthropic)의 최고 성능 AI 모델을 해외에서 전면 사용 중단하기로 결정한 것은, 아마존 CEO 앤디 재시(Andy Jassy)와 스콧 베센트 재무장관을 포함한 미국 정부 관계자들 간의 대화에서 촉발된 것이라고 사안에 정통한 관계자들이 밝혔다.
아마존 연구진은 일련의 프롬프트를 사용해 앤트로픽의 Fable 5 모델로부터 사이버 공격에 활용될 수 있는, 원래는 접근이 제한되어야 할 정보를 얻어냈으며, 재시는 이 사실을 정부 관계자들에게 전달했다고 전해졌다. 최첨단 AI 도구의 영향력에 대해 기술 업계 경영진들은 정부와 지속적으로 소통해 왔다.
(후략)
------------------------------------
중요한 뉘앙스는, 이게 “Fable 5가 아마존 내부 기밀이나 정부 비밀을 유출했다”는 의미는 아니라는 점입니다. 지금 공개된 자료 기준으로는, 문제는 모델 내부에 숨겨진 비밀정보가 나온 것이 아니라 모델의 높은 코딩·보안 추론 능력이 안전장치 우회 후 공격에 쓸 수 있는 취약점 분석 결과를 만들어냈다는 의혹에 가깝습니다. 앤트로픽은 Fable 5가 강력한 사이버보안 능력 때문에 안전장치를 붙여 일반 공개했으며, 일부 민감 주제는 더 낮은 성능의 모델로 돌리도록 설계했다고 설명했습니다.
다만 앤트로픽은 정부 조치가 과도하다고 반박합니다. 정부가 구체적 국가안보 우려를 서면으로 자세히 제공하지 않았고, 자신들이 본 시연은 좁은 범위의 비범용 jailbreak이며, 발견된 취약점도 다른 공개 모델로도 찾을 수 있는 수준이라고 주장했습니다.
마치 엔터 한방이면 다 뚫어서 내 집처럼 볼 수 있는, 영화에나 나오는 사만다급 AI처럼 언론플레이를 했죠.
미국 정부도 좀 웃긴게, 중국AI들이 바짝 쫓고 있는데 이런 프론티어AI를 사용금지 해버리면 걍 중국AI를 쓰겠죠... 스스로 경쟁력을 뻥 차버리는 셈.
또 AI개발자들의 국적 조차도 미국이 아닌 경우가 많고, 미국이더라도 이민, 혹은 이민2세대인 경우 많을텐데요.
앤트로픽 마케팅도 그렇고, 미국 정부 행동도 그렇고... 뭐 좀 이상합니다.