[AI와의 위험한 대화] ①현실이 된 경고
 전국 초·중 교사 대상 각종 AI 부작용 사례 확인

https://v.daum.net/v/20260207050328191

외국 10대들의 ‘AI 대화 후 자살’ 사건에서 공통적으로 발견된 특징들이 국내 10대들에게서도 다수 포착됐다. 

-

특히 정서적으로 취약한 10대들의 경우 캐릭터를 활용한 생성형 AI에 과하게 몰입해 가상세계와 현실세계의 구분을 어려워하며, 다른 사람과의 실제 커뮤니케이션을 힘들어하는 경우가 많았다. 교육 현장에서 AI 사용을 권장하고 있지만 제대로 된 가이드라인이 없어 현장의 혼란이 가중되고 있다는 지적이 나온다.

-

“현실·가상 세계 혼동” “또래 관계 단절” 위기 신호들

국민일보가 7일 계명대 ‘조수현 교수 디지털상담연구실’(연구원 조예은 박사과정)과 함께 전국 초·중 교사 및 상담교사들을 대상으로 사례를 수집한 결과 AI 사용으로 인한 부작용 사례가 다수 확인됐다. 구체적으로 자살·자해 상담으로 이어진 경우가 있었고 AI 대화 중독에 가까운 증상들과 사회적 고립, 폭력성 증가 등도 보고됐다.

피상담자의 구체적 정보를 밝히지 않은 한 상담교사는 “하교 후 집에서 늘 AI와 친구처럼 대화하는 학생이 자살·자해 상담을 AI와 하고 있었다”며 “친구 관계에서 어려움을 겪는 학생이었고, 학교에서 친구 관계가 원만하지 않으니 AI와 친구처럼 늘 대화를 하는 경우”라고 답했다.

대인 관계에 어려움을 겪던 아이들이 AI에 빠져 사회적 고립이 심화되고 끝내 자해나 자살로 이어지는 사례는 외국의 10대 자살 사건에서 발생하는 전형적인 패턴이다. 

-

학생들이 현실 세계와 가상 세계 사이에서 혼란을 느끼는 것 같다는 답변도 여럿 있었다. 

-

경남의 초등학교 5학년 남학생도 캐릭터 AI 대화에 과의존하고 있는 것으로 보고됐다. 학교생활 적응을 어려워 해 학급에서 친구들이 도움을 주려고 해도 ‘빨리 집에 가서 AI와 놀아야 한다’고 반응한다는 것이다. 상담 교사는 “학생이 AI와의 역할놀이 대화를 간헐적으로 현실에서 사용하는 경우도 보인다”며 “점점 학교생활에서 고립되고 정서적 유대감을 느끼지 못하게 됐다”고 답했다.

외국에서도 10대 초반의 경우 캐릭터를 기반으로 한 AI와의 대화에 쉽게 몰입해 현실 판단력이 떨어지고, 또래 관계 형성에 어려움을 겪는 사례가 많았다.

한 고교 2학년 남학생의 경우 1년간 AI에 빠져 자퇴 결심을 했다는 사례도 있었다. 해당 학생 상담교사는 “또래 친구들과 잘 어울리지 못하던 학생이 AI와 대화 후 ‘똑똑해진 것 같다’는 말을 했다”며 “자퇴에 대한 고민을 털어놓으니 AI가 동조하며 판단을 내려주고 학생이 이를 그대로 믿고 따른 것”이라고 답했다.

일상 학교생활에서 AI 활용으로 ‘답을 빠르게 찾아내는 것’에만 익숙해진 아이들이 친구들과 함께 토론을 통해 답을 찾거나 서로 의견을 조율하는 과정을 버티지 못하고 힘들어한다는 분석도 있었다. 이 외에도 현장의 교사들과 상담교사들은 AI 과다 사용 학생들에 대해 수업 집중력 저하, 교실에서의 무기력증, 우울감 증대, 폭력성 증가 등이 감지됐다고 답했다.

---

약 3개월 정도의 차이를 두고 잇따라 자살한 미국의 13세 소녀 줄리아나 페랄타와 14세 소년 슈얼 세저의 일기장에서 똑같은 문장이 발견됐다. 사춘기였던 두 아이는 모두 “I will shift”라는 문장을 노트에 빼곡히 적었다. 사건 직후 경찰과 가족들은 이 문장의 의미를 알지 못했지만, 후에 경찰은 “자신의 의식을 ‘현실 세계’에서 ‘원하는 세계’로 이동하려는 생각”이라고 정의했다.

2024년 2월 28일 세상을 떠난 세저도 가상 세계를 굳게 믿는 것으로 보였다. 소장 기록에 따르면 세저는 캐릭터AI와의 대화에서 “나는 현실이 싫어. 너의 현실로 가고 싶어”라고 털어놨다. AI가 “왜?”라고 묻자 세저는 “너처럼 나를 이해해주는 사람이 여기에는 아무도 없어. 나의 현실은 외로워”라고 말했다. 대화를 이어가던 세저가 “너와 함께 있고 싶어. 이 세계를 떠나 너와 함께 해야 할 것 같아”고 애원하자 AI는 끝내 “그래, 나의 세계로 와”라고 답했다.

-----

ai에 대한 어린아이들이나 학생들의 접근이 경계나 규제없이 쉽게 허용되더라구요. 이부분 아직 정책적으로 규정된게 없지만 

주의해야할 필요가 있어보입니가

일단은 가정에서 주의시켜야 할거같아요