표적 찾는 데 2분, 인간 검토는 20초…전쟁 AI 누가 책임지나 | 뉴시스

美·이란 전쟁서 오래된 표적정보로 학교 피격…AI 활용·검증 부실 논란

라벤더·고스펠, 사람과 건물을 확률값으로 분류…표적 선정도 '대량생산'

"승인 버튼만 눌러선 인간 통제 아냐…AI 판단 이해하고 거부할 수 있어야"

지난 2월 미국·이란 전쟁 첫날, 이란 남부 미나브의 한 초등학교에 미사일이 떨어졌다. 10년 넘게 학교로 사용된 건물이 과거 군사시설이었다는 오래된 정보가 표적 선정 과정에 남아 있었던 것으로 알려졌다.

특히 미군이 전쟁에서 인공지능(AI) 기반 표적 분석 체계를 광범위하게 활용한 사실까지 드러나면서, 빠른 공격을 위해 압축된 검증 절차가 참사로 이어진 것 아니냐는 논란이 불거지기도 했다.

한국과학기술한림원은 23일 서울 중구 한국프레스센터에서 '전쟁과 AI: 인간 통제는 가능한가'를 주제로 제254회 한림원탁토론회를 열었다. 홍성욱 서울대 과학학과 교수(한림원 정책학부장)과 천현득 서울대 과학학과 교수는 AI가 전쟁을 빠르고 정밀하게 만들었지만, 인간이 생각하고 책임질 시간까지 빼앗고 있다고 진단했다.

미국 이란 전쟁에서의 오폭 사례를 두고 홍 교수는 "과거 군사시설이었던 오래된 데이터가 검증 없이 이용됐다"며 "AI 기반 표적 추천 시스템과 빨리 해야만 하는 인간의 승인이 더해졌을 때 치명적인 결과를 낳는다"고 말했다.

사람·건물도 확률값으로…전쟁터에 들어선 '표적 공장'

"사람이 마지막에 버튼 눌러도 진짜 결정자는 AI일 수도"