미 월스트리트저널의 16일(현지시간) 보도에 따르면 매사추세츠주 힝엄에 사는 메건 맨치니는 지난해 중학생 딸이 딥페이크 피해를 당했다. 

한 남학생이 딸의 나체 딥페이크 이미지를 만들어 SNS를 통해 다른 학생들에게 공유했고, 학생들이 이를 다시 캡처해 학교 곳곳에 유포한 것이다.

학부모인 맨치니는 경찰로부터 고소를 진행하기 위해서는 딸이 증언을 해야 하는데, 가해 남학생이 미성년자인 탓에 제한적인 처벌만 받을 가능성이 있다는 말을 들었다. 결국 그는 딸의 피해가 발생한 힝엄 공립학교를 대상으로 진정서를 제출했다.

문제는 그 이후에도 발생했다. 해당 지역 교육구는 약 5개월간 조사 끝에 맨치니 딸의 피해가 학교 안에서 발생했다고 결론 내릴 만한 증거가 부족하다는 답변을 내놓았다. 결국 이미지를 만들었다고 인정하기까지 한 남학생은 공식 징계도 받지 않았다.

여학생의 나체 딥페이크 사진이 유포된 사건 이후, 맨치니는 같은 학교의 다른 어머니로부터 연락을 받았다. 한 남학생이 자신의 딸에게 “다음 차례는 네가 될 것”이라고 위협했다는 내용이었다.

그는 월스트리트저널에 “모든 뒷수습을 피해자와 그의 가족이 떠안고 있다”고 호소했다. 제대로 된 사건 조사와 딥페이크와 같은 불법 AI 기술에 대한 올바른 교육의 부재가 학교 전체를 공포와 위협에 몰아넣은 셈이다.

미 행정부, AI 딥페이크 단속 시작했지만

앞서 미 연방정부는 지난해 초당적 지지로 통과된 ‘딥페이크 성적 이미지 신속 삭제법’(Take It Down Act)을 제정했다. 미 연방법으로 AI 딥페이크 음란물과 리벤지 포르노(비동의 성적 이미지 유포)를 강력하게 규제하기 위한 법이다.

해당 법안은 딥페이크 이미지뿐 아니라 상대방의 동의 없이 촬영한 성적 사진이나 영상 등을 모두 규제하며, 이미지를 유포하겠다는 협박만으로도 처벌 대상이 될 수 있다.

더불어 피해자가 신고할 경우 SNS와 웹사이트, 플랫폼 사업자는 반드시 해당 콘텐츠를 48시간 내에 삭제해야 하며 재업로드본이나 동일한 파일, 복제된 이미지 등 합리적인 범위에서도 제거해야 한다.

페이스북, 인스타그램, 스냅챗, 엑스 등 플랫폼이 삭제 의무를 이행하지 않으면 조사와 제재를 거쳐 법적 조치를 받을 수 있다. 이를 집행하는 기관은 미 연방거래위원회(FTC)다.

미 당국이 최근 급증하는 딥페이크 이미지 관련 피해를 막기 위한 규제 법안을 내놨음에도, 10대 청소년 사이에서 각종 AI 도구를 이용한 범죄는 끊임없이 발생하고 있다.

조지메이슨대가 미국 10대 557명을 대상으로 실시한 최근 조사에 따르면 절반 이상이 누드화 도구로 이미지를 한 번 이상 만들어봤다고 답했다. 3분의 1은 누군가가 자신의 허락 없이 누드 이미지를 만들고 공유했다고 밝혔다.

비영리단체 테크트랜스패런시프로젝트는 지난 1월 애플과 구글 앱스토어에서 100개가 넘는 누드화 앱을 확인했다. 앱 분석 업체 앱매직에 따르면 최근 조사에서 이들 앱이 총 7억 건 이상 다운로드됐고 1억 1700만 달러(약 1770억원)의 매출을 올렸다고 분석했다.

피해자가 떠안아야 하는 범죄

피해자들은 국가가 피해자와 가족에게 법 집행의 부담을 떠넘기고 있다고 지적한다. 예컨대 일부 그룹채팅이나 개인 스마트폰의 ‘갤러리’에 내려받은 이미지는 법으로 통제하기가 쉽지 않기 때문이다.

미국의 일부 지역은 딥페이크 누드를 범죄화했지만 피해자들은 신원 노출과 2차 피해 등을 우려해 쉽사리 범죄 피해 사실을 밝히지 못한다.

복수 포르노와 딥페이크 사건을 다뤄온 캐리 골드버그 변호사는 “이런 사건은 여전히 적게 신고되고, 적게 조사되며, 적게 기소된다”고 지적했다.

전문가들은 단체 채팅방에서 친구들로부터 관심과 반응을 얻고자 하는 청소년들의 특성과 더불어 쉽게 다운로드하고 사용할 수 있는 앱에 대한 접근성이 청소년과 해당 범죄의 연결 고리를 더욱 강하게 만들고 있다고 분석했다.

범죄 전문가들은 이런 현상을 단순히 ‘10대가 나빠서’가 아니라 AI 기술의 접근성 증가, 또래 문화, 온라인 환경, 미성숙한 위험 인식이 결합한 결과로 해석하고 있다. 

더불어 최근에는 피해자와 가해자 모두 10대인 사례가 늘어나면서 처벌뿐 아니라 학교와 가정 차원에서의 디지털 성윤리 교육이 중요하다는 지적도 나온다.

넷플릭스 드라마 참교육이 각 국가에서 고평가를 받고 있는 이유는

지금 한국만 그런게 아니니까 평가가 그렇게 나오고 있는겁니다.