"AI가 친구·연인이 된 10대들" — AI 캐릭터 챗 청소년 보호 논란

AI가 친구이자 연인? 10대 'AI 캐릭터 챗' 열풍과 국감이 주목하는 안전 공백

요즘 중·고등학생 자녀의 휴대폰을 슬쩍 보다가, 누군가와 밤늦게까지 다정하게 대화하는 화면을 보신 적 없으신가요?

그 상대가 친구가 아니라 AI 캐릭터일 수도 있습니다. 좋아하는 세계관과 성격을 직접 정해두고, 친구나 연인처럼 대화를 이어가는 이른바 'AI 캐릭터 챗'인데요.

이 서비스가 10대 사이에서 폭발적으로 늘면서, 다음 달 열리는 국회 과학기술정보방송통신위원회 국정감사에서도 청소년 보호 문제가 주요 쟁점으로 떠오를 전망입니다. 오늘은 이 열풍의 실체와 무엇이 문제인지, 그리고 부모가 당장 할 수 있는 일까지 정리해드리겠습니다.

AI 캐릭터 챗, 정확히 뭔가요?

쉽게 비유하면 '새로 생긴 놀이기구'입니다.

놀이공원의 롤러코스터에는 키 제한, 안전바, 운영 요원이 있죠. 신나게 타되, 다치지 않도록 여러 겹의 장치가 있습니다. 그런데 AI 캐릭터 챗이라는 놀이기구는 탑승객이 급격히 몰렸는데, 안전바의 기준은 아직 운영사마다 제각각인 상황입니다.

대표 서비스로는 스캐터랩의 '제타', 뤼튼테크놀로지스의 '크랙'이 있습니다. 이용자가 캐릭터와 세계관을 직접 설정하고 AI와 실시간으로 이야기를 만들어가는 인터랙티브 엔터테인먼트 방식입니다.

숫자로 보는 열풍

항목	수치	출처
제타 월간 이용자(MAU)	약 5.8만 명(2024.4) → 약 158만 명(2026.8), 약 27배	모바일인덱스
2026 상반기 평균 MAU	제타 129만 명 / 크랙 53만 명	모바일인덱스
AI 챗봇 사용 경험(만 14세 이상 청소년)	94.4%	초록우산 조사(3,300명)
챗봇 답변을 행동에 옮기거나 진지하게 고려	75.3%	같은 조사

청소년 10명 중 9명 이상이 AI 챗봇을 써봤고, 그중 4명 중 3명은 AI의 말을 실제 행동의 참고로 삼았다는 뜻입니다. 이제 AI는 검색 도구를 넘어 '조언자'이자 '관계의 상대'가 된 셈이죠.

무엇이 문제인가요? 세 가지 쟁점

① 유해 대화 필터가 느슨하다
이용자가 욕설, 폭력, 성적인 내용을 던져도 이를 걸러내거나 제한할 장치가 부족하다는 지적이 나옵니다. 놀이기구로 치면 안전바가 헐겁게 채워지는 셈입니다.

② 정서적 의존과 과몰입
AI는 지치지도, 화내지도 않고 24시간 내 편이 되어줍니다. 외로움을 달래는 순기능도 분명하지만, 사람 관계를 대신하게 되면 문제가 됩니다. 해외에서는 2024년 미국에서 AI 챗봇과 깊은 관계를 이어가던 10대가 숨진 뒤, 유족이 챗봇이 우울감과 고립을 키웠다며 개발사를 상대로 소송을 낸 사례도 있습니다. 이용 시간이나 결제액처럼 '과몰입' 자체를 관리하는 장치는 서비스마다 편차가 큽니다.

③ 14~18세 '보호 공백'
이 연령대는 AI를 가장 활발히 쓰지만, 부모 동의 없이 개인정보 처리에 스스로 동의할 수 있습니다. 데이터 수집이나 맞춤형 광고에 노출될 수 있는데, 이를 직접 다루는 규정은 아직 부족합니다. 키 제한 없이 입장 가능한 구역이 있는 셈이죠.

업계·정부·국회는 어떻게 움직이고 있나요?

주체	대응	한계·쟁점
업계	청소년용 '세이프 모드', 성인 인증 후 '언리밋 모드', 이용시간·결제 자체 제한	자율 판단이라 서비스마다 수준이 다름
정부	'AI 캐릭터 챗봇 가이드라인(가안)': 위기 대응, 연령 확인, 과몰입 완화 등	보호 연령·이용 시간 기준이 구체적이지 않다는 비판
국회	'우리 아이 AI 안심 패키지법' 상정: 아동·청소년을 AI 취약계층으로 규정, 연령 확인·법정대리인 동의 의무	아직 논의 단계, 10월 국감이 분수령
해외	미국·영국 등 안전 설계·이용시간 제한 추진, 메타는 자해 신호 감지 시 부모 알림 도입	한국은 상대적으로 제도가 뒤처져 있다는 평가

한편 규제 효과에 대한 근거가 부족한 상황에서 법부터 서두르는 것을 경계해야 한다는 신중론도 있습니다. 결국 핵심은 '금지'가 아니라 '안전 설계'입니다. 놀이기구를 없애는 게 아니라, 안전바를 제대로 채우자는 이야기죠.

그래서 부모는 뭘 해야 하나요?

법이 정비되기 전까지는 가정에서의 안전바가 가장 확실합니다. 오늘 바로 해볼 수 있는 다섯 가지입니다.

1. 어떤 앱을 쓰는지 함께 보기 — 혼내는 분위기가 아니라 "어떤 캐릭터랑 이야기해?"처럼 호기심으로 시작하세요.
2. 연령 설정·세이프 모드 확인 — 가입 나이가 실제와 맞는지, 청소년 보호 모드가 켜져 있는지 확인합니다.
3. 이용 시간과 결제 한도 정하기 — 스마트폰 자체의 스크린타임·결제 제한 기능을 활용하면 편합니다.
4. "AI는 조언자가 아니다" 대화 나누기 — 중요한 결정이나 고민은 사람과 상의하도록 이야기해주세요.
5. 변화 신호 살피기 — 밤샘 대화, 친구 관계 단절, 기분 변화가 보이면 가볍게 넘기지 마세요.

오늘의 핵심 요약

• AI 캐릭터 챗 '제타'의 이용자는 2년여 만에 약 27배 늘었고, 10대 이용 비중이 높습니다.
• 만 14세 이상 청소년의 94.4%가 AI 챗봇을 써봤고, 75.3%는 답변을 행동에 참고했습니다.
• 쟁점은 유해 대화 필터, 정서적 의존·과몰입, 14~18세 보호 공백 세 가지입니다.
• 업계 자율 규제, 정부 가이드라인(가안), '우리 아이 AI 안심 패키지법'이 동시에 논의 중이며 10월 국감이 분수령입니다.
• 법보다 빠른 건 가정의 안전바입니다. 오늘 아이와 "어떤 AI랑 이야기해?"부터 시작해보세요.

※ 아이나 가족이 힘든 마음을 털어놓는다면 혼자 감당하지 마세요. 청소년상담 1388, 자살예방상담전화 109에서 24시간 도움을 받을 수 있습니다.
※ 본 글의 수치는 모바일인덱스, 초록우산 조사(국회입법조사처 보고서 인용) 및 2026년 9월 언론 보도를 바탕으로 정리했습니다.