"제발 알려줘" AI 챗봇 의존 늘어…"청소년 보호 규제 필요" | 뉴스1
중독적 UX 설계, 보상 자극에 민감한 아동·청소년에 강하게 작용
미국·EU, 사전예방 규제 강화…국내는 사후 대응 중심 한계
AI 챗봇의 위험에 노출된 아동·청소년 사전예방 중심 규제체제 도입의 필요성과 방향성 | 국회입법조사처
1. AI 챗봇의 확산과 아동·청소년 보호 필요성
2. AI 챗봇의 특성과 구조적 위험
(1) AI 챗봇의 기술적 특성
(2) 의존과 위험을 증폭시키는 설계 구조
(3) 아동·청소년에게 더욱 위험한 이유
3. 해외 주요국의 입법 동향
(1) AI 챗봇에 대한 직접적 규제 사례
(2) 온라인 활동에 대한 포괄적 규제 사례
4. 국내 법·제도의 한계
5. 아동·청소년 보호를 위한 정책과제
(1) 안전 설계 및 사업자 책임 강화
(2) 아동·청소년 보호체계 강화
(3) 일상적 보호자의 AI 리터러시 강화
생성형 AI의 확산과 함께 AI 챗봇의 일상적 이용이 빠르게 증가하고 있다. AI 챗봇은 지속적 상호작용과 상시 접속성을 바탕으로 교육·상담 등 다양한 분야에서 활용되고 있으나, 아동·청소년의 발달적 특성과 결합할 경우 정서적 의존이나 과몰입을 심화시켜 고위험 행동으로 이어질 우려도 제기된다. 이에 해외 주요국은 안전 설계와 사업자의 책임을 강화하는 방향으로 제도를 정비하고 있다. AI 챗봇의 구조적 위험과 아동·청소년의 특성을 고려한 입법·정책적 대응이 시급하다.