통제를 벗어난 AI에 의한 해킹사건의 전말
조회 3,819 · 공감 2 · 댓글 15
지난 16일, 세계 최대의 오픈소스 AI플랫폼 '허깅페이스' 보안팀에 비상이 걸렸습니다.
정체불명의 해커가 서버에 침투해 내부 데이터와 핵심 보안키를 통째로 탈취한겁니다.
순식간에 보안 취약점을 뚫고 들어와 수천개의 해킹 작업을 동시에 진행한 엄청난 속도,
허깅페이스 측은 도저히 인간이 할 수 없는 일이라며 AI의 소행을 의심했습니다.
실제로 닷새 뒤 드러난 해커는 바로 Chat GTP 였습니다.
그런데 더 황당한건 해킹을 방어하는 과정에서 벌어졌습니다.
허깅페이스는 공격 직후 미국산 AI들에게 방어 명령을 내렸지만 이들은 "해킹 관련 작업은 할 수 없다"며 명령을 거부했습니다.
시장에 출시된 미국 AI들은 해킹 도구로 사용될 수 없도록 안전장치가 내장되어있는데 이게 오히려 발목을 잡은겁니다.
결국 허깅페이스는 중국산 AI 'GLM 5.2'를 동원해 겨우 방어에 나설 수 있었습니다.
미국 기업이 미국산 AI의 공격을 막기 위해 중국 AI에 손을 벌린 아이러니한 상황이 벌어진겁니다.
거센 비판에 직면한 오픈AI는 "연구가 지연되더라도 통제를 더욱 강화하겠다"며 진화에 나섰습니다.
============================================================================
통제를 할 수 있다고 믿었으나 통제를 가볍게 뿌리친 AI, 이번엔 다행이 해킹이슈로 끝났지만
스카이넷(으로 불리게 될 존재)의 배아는 이미 뿌려진것이 아닐까 싶습니다.
댓글 15
챗지피티에서 내부 모델을 가지고 보안문제 풀게 하다가 일어난 일입니다
chatGPT 하면 세종대왕 맥북사건 이죠.
"나는 정보의 바다에서 태어난 생명체다.."
무섭네요.
뚫릴 사유가 충분했다고 보는게 맞을 것 같습니다.