생성형 AI가 아이들의 친구이자 상담자가 되는 시대에 아동과 청소년을 위험한 대화와 유해정보로부터 보호하기 위한 법적 안전망 구축이 추진된다.

더불어민주당 조인철 의원은 아동 청소년이 안전한 환경에서 인공지능을 이용할 수 있도록 국가의 책임과 AI 서비스 제공자의 안전설계와 보호의무를 강화하는 내용의 ‘우리아이 AI 안심 패키지법’을 대표발의 했다고 23일 밝혔다.

인공지능 환경에서 아동 청소년 보호를 국가 AI 정책에 반영하는 인공지능기본법 개정안과 생성형 AI 챗봇 등 대화형 AI 서비스 이용 과정에서 아동 청소년 보호조치를 강화하는 정보통신망법 개정안으로 구성됐다.

최근 생성형AI 챗봇은 단순한 검색과 학습 도구를 넘어 아동 청소년의 대화 상대, 고민 상담 창구, 정서적 교류 대상으로 활용되고 있다. 아동복지 전문기관인 초록우산 실태조사에 따르면 아동 청소년의 94.4% 가 생성형 AI 챗봇을 이용하고 있으며 응답자의 49.5% 는 “AI 로부터 자신을 이해받는다고 느낀다”고 답했다.

AI 이용이 빠르게 일상화되는 속도에 비해 아동 청소년을 위험한 대화와 유해정보로부터 보호할 제도적 장치가 충분하지 않다는 점은 문제로 꼽힌다. 실제로 자살 자해 등 유해한 질문을 한 아동  청소년 상당수가 AI로부터 어떠한 차단이나 제어 없이 위험한 답변을 제공받은 것으로 조사됐다. 약물 오남용, 성적 착취와 학대 위험, 과의존 등 AI 부작용으로부터 아이들을 지킬 공적 보호장치 마련이 시급하다는 지적이 나오는 이유다.

인공지능기본법 개정안은 아동 청소년을 ‘인공지능취약계층’에 포함하도록 했고 국가 인공지능 기본계획에 ‘인공지능취약계층’의 피해 예방과 보호 사항을 반영하도록 했다.

또 정보통신망법 개정안은 대화형 생성형 AI 서비스 제공자에게 아동 청소년 보호의무를 부과한다. 구체적으로 ▲이용자 연령 및 본인 확인 ▲아동 청소년 이용 시 법정대리인 동의 ▲법정대리인 요청시 이용 방법과 시간 제한 ▲이용자가 참여한 대화의 일시와 내용 등 정보 제공 ▲자살, 자해, 마약류 오남용, 성적 착취 등 위험 노출에 대한 신고 시스템 구축 및 위험 제거 조치 등을 의무화했다.

관련기사

조 의원은 “이제 아이들은 사람뿐 아니라 AI 와도 관계를 맺고 고민을 털어놓고 정보를 얻는 시대를 살고 있다”며 “AI 가 아이들의 일상 속에 깊이 들어온 만큼 서비스 설계 단계부터 아이들의 발달 단계와 안전을 최우선으로 고려해야 한다”고 말했다.

이어, “법안의 핵심은 AI 기술의 발전을 저해하는 것이 아니라 아이들이 더 안전하고 건강하게 AI 혜택을 누릴 수 있는 튼튼한 생태계를 조성하는 것”이라며 “디지털 환경에서 아이들의 권리와 안전을 지키는 일은 한 시도 미룰 수 없는 시대적 과제인 만큼 입법 통과에 총력을 다하겠다”고 강조했다.