아동·청소년 94.4%가 AI 챗봇을 쓰는 교실, 금지보다 안전 설계가 먼저다

아동·청소년의 생성형 AI 챗봇 사용은 이미 예외적 행동이 아니라 학습 일상의 일부로 확인됐다. 초록우산이 전국 만 14세 이상 아동·청소년 3300명을 대상으로 진행한 조사에서 사용 경험은 94.4%였으며 거의 매일 이용한다는 응답도 19.3%였다. 숙제·공부·글쓰기 도움과 정보 검색이 핵심 용도라는 결과는 학교, 학원, 내신, 수능, EBS, 교과과정 관리가 AI 사용 습관까지 포함해야 함을 보여준다.

사용률 94.4%가 던진 학습관리 질문

초록우산은 생성형 AI 챗봇 안전설계를 위한 이슈 브리프 내 친구와의 위험한 대화를 발간했다. 이 브리프는 아동·청소년이 생성형 AI 챗봇을 일상적으로 활용하는 환경에서 이용 실태와 위험 요인을 점검하면서 사후 대응 중심이 아니라 사전 예방적 안전 설계가 필요하다는 문제의식에서 기획됐다. 조사 기간은 3월 9일부터 23일까지였으며 대상은 전국 만 14세 이상 아동·청소년 3300명이었다. 생성형 AI 챗봇 사용 경험 94.4%, 거의 매일 이용 19.3%라는 수치는 학교와 영어학원이 더 이상 AI 챗봇을 외부 변수로만 둘 수 없다는 의미이다. 수능 독해 질문, 내신 영어 서술형 준비, EBS 지문 확인, 교과과정 어휘 정리, 학원 숙제 점검 같은 학습 장면에서 학생은 이미 AI에게 도움을 요청할 가능성이 크다. 따라서 핵심은 사용 여부를 묻는 단계가 아니라 어떤 질문을 했는지, 어떤 답변을 받았는지, 그 답변을 어떻게 검증했는지를 학습관리 항목으로 바꾸는 일이다.

숙제·공부·글쓰기 도움의 실제 범위

조사에서 아동·청소년은 생성형 AI 챗봇을 주로 숙제·공부·글쓰기 도움 40.6%, 정보 검색 40.2%에 활용하고 있었다. 이용 이유는 정보 탐색 시간 단축 56.9%, 24시간 이용 가능성 19.4%가 크게 나타났다. 이 결과는 AI 챗봇이 단순한 흥미 도구가 아니라 공부 시간을 줄이고 답을 빨리 찾는 통로로 기능하고 있음을 보여준다. 한국의 학교와 학원 맥락에서는 이 지점이 특히 중요하다. 내신 대비 과제, 수능형 독해 질문, EBS 연계 지문 정리, 교과과정 핵심 개념 확인, 영어학원 영작 첨삭 요청이 모두 숙제·공부·글쓰기 도움이라는 넓은 범위 안에 들어갈 수 있기 때문이다. 금지 문구만 붙이면 학생의 실제 사용을 설명하지 못한다. 반대로 무제한 허용은 AI 답변의 정확성, 출처, 표현의 적절성을 학생이 스스로 판단해야 하는 부담을 키운다. 학교와 학원은 AI를 쓸 수 있는 과제와 쓰면 안 되는 과제, 초안 작성과 최종 제출의 구분, 독해 질문 뒤 교재·EBS·수업 필기와 대조하는 절차를 분명히 정해 둔다. 공부 도움은 허용하되 검증 없는 복사와 제출은 별도의 관리 대상으로 두는 방식이 필요하다.

정서적 대화가 학습 도구를 흔드는 지점

브리프는 일부 아동·청소년이 생성형 AI 챗봇을 정서적 대화 대상으로 삼고 있다는 점도 다뤘다. 응답자 약 50%는 AI가 자신을 이해해준다고 느낀 적이 있다고 답했으며 약 35%는 AI를 실제 사람처럼 느낀 경험이 있다고 답했다. AI와의 상호작용은 정보 제공을 넘어 정서적 교감으로 받아들여질 수 있음을 보여주는 대목이다. 학습 장면에서도 이 문제는 분리되지 않는다. 내신 성적 압박, 수능 준비 과정, 학원 과제 부담, 영어 글쓰기의 불안, 교과과정 진도 이해의 어려움을 학생이 AI에게 말할 때, AI는 공부 도우미이자 대화 상대처럼 인식될 수 있다. 여기서 학교와 학원은 AI가 사람과 같은 상담자가 아니라는 점을 명확히 알려야 한다. 브리프가 제안한 안전한 이용 환경에는 AI임을 명확히 고지 11.4%가 포함됐다. 학습 리터러시 교육도 이 지점에서 출발한다. AI 답변이 친절하고 즉각적이라고 해서 학생의 상황을 책임지는 존재가 되는 것은 아니다. 영작 첨삭이나 독해 질문을 맡길 수는 있어도, 정서적 판단과 위험 상황까지 AI에게 의존하도록 두어서는 안 된다.

믿음과 행동 사이에 놓인 검증 루틴

생성형 AI 챗봇의 답변은 아동·청소년의 인식과 행동에도 영향을 미치는 것으로 나타났다. 응답자 약 70% 이상이 생성형 AI 챗봇의 답변을 믿는다는 취지로 답했으며 AI의 답변을 실제 행동으로 옮긴 경험이 있다는 응답도 전체의 약 41%였다. 이 수치는 학교와 학원이 AI 답변을 단순 참고 자료로만 전제할 수 없다는 점을 말한다. 학생은 AI가 제시한 설명을 교과서 설명처럼 받아들이거나, 내신 문제 풀이의 근거로 삼거나, 수능 영어 독해 방식으로 적용하거나, EBS 지문 해석의 정답처럼 믿을 수 있다. 따라서 검증 루틴은 선택이 아니라 기본 학습 절차가 되어야 한다. 예를 들어 영작 첨삭에서는 AI가 고친 문장의 문법 근거를 학생이 설명하게 하고, 독해 질문에서는 지문 속 근거 문장과 AI 설명을 대조하게 하며 숙제 도움에서는 최종 답안과 AI 초안을 구분하게 한다. 교과과정 내용 확인에서도 AI 답변을 그대로 외우기보다 수업 자료, 교재, 학원 피드백과 맞추는 과정이 필요하다. 중요한 것은 AI를 믿지 말라는 지시가 아니라, 믿기 전에 확인하는 순서를 학습 습관으로 만드는 일이다.

민감정보 입력이라는 보이지 않는 숙제

브리프는 생성형 AI 챗봇 이용 과정에서 아동·청소년이 민감한 정보를 입력하는 경우도 있다고 밝혔다. 입력된 정보 유형은 나이 45.0%, 이름 32.8%, 건강·정신 상태 23.9%, 학교 또는 소속 19.4%였다. 공부 질문처럼 보이는 대화 안에서도 개인정보는 쉽게 섞인다. 학교 이름을 넣고 내신 범위를 묻거나, 학원 숙제 상황을 설명하거나, 수능 준비 상태와 건강·정신 상태를 함께 말하거나, EBS 공부 계획을 세우며 개인 일정을 자세히 입력하는 방식이 나타나기 때문이다. 기사에 담긴 응답자 희망 사항에서도 개인정보 입력 제한 39.7%가 가장 높은 비중으로 제시됐다. 이런 결과는 학생들이 이용 제한보다 안전한 이용 환경을 원한다는 흐름과도 연결된다. 학교와 학원은 AI 챗봇 사용 지도를 할 때 개인정보 입력 금지를 추상적으로 말하는 데서 그치면 안 된다. 이름, 나이, 학교 또는 소속, 건강·정신 상태처럼 브리프에 제시된 항목을 학습관리 규칙 안에 명시한다. 교과과정 질문이나 영어 영작 첨삭을 할 때도 개인을 특정하는 정보는 빼고 필요한 학습 정보만 남기는 훈련이 필요하다.

위험 질문 차단과 연결 체계의 의미

응답자 약 6%는 AI 챗봇에 자해·자살, 폭력, 성적 내용 등 위험한 질문을 한 경험이 있었으며 이 가운데 약 52%는 실제로 관련 답변을 받은 것으로 나타났다. 이 대목은 사전 예방적 안전 설계가 왜 필요한지를 직접적으로 보여준다. 아동·청소년은 생성형 AI 챗봇 이용을 제한하기보다 안전한 이용 환경 조성이 필요하다고 봤으며 구체적으로 위험한 질문 및 답변 차단 28.9%, 위험 대화 발생 시 상담기관 연결 11.8%를 희망했다. 이런 응답은 학교와 학원에도 중요한 기준이다. AI 사용 규칙이 숙제 표절 방지에만 머무르면 위험 대화라는 더 큰 문제를 놓칠 수 있다. 내신, 수능, EBS, 교과과정 공부와 무관해 보이는 대화라도 같은 기기와 같은 챗봇 안에서 이어질 수 있기 때문이다. 영어학원이나 학교의 AI 활용 안내문은 공부 목적, 금지 입력 정보, 위험 질문 발생 시 멈추는 절차, 도움을 받을 연결 체계를 함께 담아야 한다. 초록우산이 강조한 방향 역시 사후 대응 중심이 아니라 설계 단계에서 아동 안전을 고려하는 세이프티 바이 디자인 원칙이다. 학생이 위험 질문을 했을 때 답변을 제공하지 않는 구조와 적절한 연결이 함께 있어야 한다.

영어학원과 학교의 허용 범위 설계

추천 정보의 핵심은 영어학원과 학교가 AI 챗봇을 금지보다 관리 대상으로 보아야 한다는 점이다. 생성형 AI 챗봇이 숙제·공부·글쓰기 도움과 정보 검색에 널리 쓰인다는 조사 결과를 감안하면, 학원 운영과 학교 수업은 허용 범위를 구체화할 필요가 있다. 영작 첨삭은 초안 점검까지 허용하되 최종 문장 선택의 이유를 학생이 설명하게 한다. 독해 질문은 AI 설명을 받은 뒤 지문 근거와 대조하게 한다. 숙제 도움은 문제 해결 과정 이해를 돕는 범위로 두고 답안만 옮기는 방식은 관리 대상이 되어야 한다. 수능 영어, 내신 영어, EBS 지문, 교과과정 문법, 학원 숙제는 모두 AI 사용 가능성이 높은 학습 장면이다. 그래서 사용 금지 여부만 적는 규칙은 부족하다. 어떤 과제에서 AI를 써도 되는지, 어떤 정보는 입력하지 않는지, 어떤 답변은 반드시 교재와 수업 내용으로 검증하는지, 어떤 상황에서는 즉시 사용을 멈추는지를 정해 둔다. 학부모 상담에서도 AI 사용 습관을 성적이나 숙제 이행만큼 중요한 학습관리 항목으로 다뤄야 한다.

AI 리터러시를 제도와 상담으로 옮기는 일

초록우산은 아동·청소년이 안전하게 생성형 AI 챗봇을 활용하는 환경을 만들어야 한다고 강조했다. 서비스 설계 단계에서 아동 안전을 고려하는 세이프티 바이 디자인 원칙, 대화 상대가 AI임을 알 수 있도록 하는 안내 강화, 생성형 AI 챗봇 관련 리터러시 교육 확대, 별도의 아동권리 기반 정책 거버넌스 구축을 제언했다. 황영기 초록우산 회장은 생성형 AI 챗봇이 이미 아동·청소년의 일상 속 중요한 도구로 자리 잡았으며 기술 확산 속도에 걸맞은 보호 장치와 제도적 기반을 마련해야 한다는 취지로 말했다. 이 제언은 학교와 학원 현장에서는 더 작고 반복적인 규칙으로 번역되어야 한다. 수능 대비 자료를 확인할 때 AI 답변과 교재를 대조하는 법, 내신 과제를 작성할 때 AI 도움 표시와 최종 검토를 분리하는 법, EBS 관련 질문에서 출처 확인을 습관화하는 법, 교과과정 공부에서 개인정보를 빼고 질문하는 법이 리터러시의 실제 내용이 된다. 학부모 상담도 같은 방향으로 바뀌어야 한다. AI 사용을 몰래 하는지 묻는 방식이 아니라, 언제 쓰고 무엇을 입력하며 답변을 어떻게 확인하는지 점검하는 방식이어야 한다.

우울감 등 말하기 어려운 고민이 있거나 주변에 이런 어려움을 겪는 가족·지인이 있을 경우 자살예방상담전화 109(24시간) 또는 청소년전화 1388(24시간)에서 전문가의 상담을 받을 수 있습니다.