본문영역 바로가기

현재 위치

정책리포트

아동·청소년 대상 AI 디지털 성범죄 감시체계 강화방안

등록일: 
2024.12.24
조회수: 
191
권호: 
제411호
발행일: 
2024-12-09
주제: 
사회/복지, 디지털/기술
저자: 
김준철, 김혜진, 윤성범
다운로드
PDF icon 원본 (554.04 KB)

2021년 7월 서울시 조사에 따르면 초·중·고생의 21.3%가 채팅이나 SNS를 통해 디지털 성범죄를 경험했으며, 아동·청소년 대상 성범죄가 증가하고 있다. 디지털 성범죄의 신속한 탐지 및 대응을 위해 AI 기술의 적용이 필요하다. 안면인식, 객체탐지, 광학문자인식 기술을 통해 성범죄물을 탐지하고 분류하는 모델 등 첨단기술 기반의 디지털 성범죄 감시체계 구축을 통해 선제적인 대응이 가능할 것이다. 그러나, 데이터셋 구축, 딥러닝 모델 최적화, 안면인식 성능 향상 등 기술적 과제가 남아 있다. 이를 해결하고자 정책 개선, 인식 교육 강화, 국제 협력 등 다방면의 노력이 필요하다.

아동·청소년 대상 디지털 성범죄 현황 및 문제점

2021년 7월 서울시와 서울여성가족재단이 서울시교육청 협조를 받아 실시한 실태조사에 따르면, 초·중·고생 중 21.3%가 채팅이나 SNS를 통해 디지털 성범죄를 경험했다고 응답했으며, 이러한 범죄는 최근 몇 년간 급증하는 추세다. 특히 디지털 성범죄는 피해자들이 강요와 협박에 의해 성적 이미지나 영상을 전송하도록 유도되며, 이러한 자료가 온라인상에 유포되는 일이 빈번하게 발생한다. 현재 대응체계는 사건 탐지와 조사 속도가 지연되는 한계를 가지고 있어 신속하고 체계적인 대응이 필요한 실정이다.

아동·청소년 대상 디지털 성범죄물의 신속·정확한 검출 위해 AI 기술 활용 필요

아동·청소년 대상 디지털 성범죄물의 신속하고 정확한 탐지를 위해 AI 기술의 활용이 절실하다. 안면인식 및 나이예측 기술은 인물의 나이를 예측할 수 있으며, 객체탐지 기술은 교복이나 책가방 등 아동·청소년 관련 물품을 통해 콘텐츠를 분류하는 데 유용하다. 또한 광학문자인식 기술은 영상 내 키워드 탐지를 통해 불법 콘텐츠 식별에 기여할 수 있다. 이러한 AI 기술들을 조합하여 개발된 AI 자동검출 모델은 성범죄물을 실시간으로 탐지하고 분류할 수 있으며, 피해를 최소화하는 데 큰 역할을 할 수 있다.

아동·청소년 대상 디지털 성범죄 검출모델 구축을 통해 기술적·실질적 감시체계 마련해야

연구를 통해 개발된 아동·청소년 대상 디지털 성범죄물의 AI 검출 기술은 서울 디지털 성범죄 안심지원센터에서 통합 운영되며, 아동·청소년 온라인 환경 보호에 기여할 것으로 기대된다. 그러나 디지털 성범죄 대응의 실효성을 높이기 위해 데이터셋의 수집 및 정제, 딥러닝 모델의 최적화, 안면인식 기술의 성능 향상 등의 기술적 도전과제가 남아 있다. 이를 위해 법적·정책적 개선, 인식 교육, 국제 협력 등 다방면의 여건 조성이 필요하며, 정부 및 정책 입안자들의 적극적인 지원이 요구된다.

제 3유형: 출처 표시 + 변경금지