개인정보보호 전문기업 지란지교데이터는 기존 유해 영상 차단 기술을 개선한 AI(인공지능) 기반 유해 영상 차단 기술 고도화 개발 작업을 마쳤다고 28일 밝혔다.

앞서 지란지교데이터는 지난 9월 정보통신산업진흥원(NIPA)이 주관하는 `AI 바우처 지원 사업`의 수요기업으로 선정됐다.

AI 바우처 지원 사업은 정부의 디지털 뉴딜 정책의 일환으로 AI 기술이 필요한 중소기업 (수요기업)에게 바우처를 발급하고 수요기업이 원하는 공급기업의 AI 솔루션을 연결, 구매 및 활용할 수 있는 사업이다.

지란지교데이터는 공급기업의 ‘콘텐츠 기반 딥러닝 분석 도구 및 통합시스템’을 활용해 ‘AI 기반 음란 영상 및 스트리밍 차단 기술’을 개발하고 내부 솔루션에 적용한다는 계획이다.

가장 먼저 적용될 엑스키퍼(XKEEPER)는 PC/스마트폰 종합 사용 관리 플랫폼으로 유해 동영상 차단 외에도 유해사이트 차단, 일일 사용시간 관리, 실시간 위치확인, 보행 중 모바일 사용방지, 잠금 시간대 설정, 부모 스마트폰을 통한 원격관리 등의 기능을 제공해 자녀의 PC 및 스마트기기 오∙남용을 방지해준다.

조원희 지란지교데이터 대표는 "올해 초 터진 ’n번방’ 사건으로 음란물의 유통과 확산이 우리 사회의 주요 문제 중 하나로 제기됨에 따라 PC 및 스마트 기기를 통한 유해∙음란 영상의 재생을 막는 영상 차단 기술이 다시금 주목받기 시작했다"며 “정보통신산업진흥원(NIPA)”의 지원으로 더 진보된 아동 청소년 보호 서비스를 제공할 수 있게 된 셈” 이라고 설명했다.

조 대표는 이어 “AI 바우처 지원사업으로 인하여 소프트웨어 개발사와 AI 전문회사 간 협업으로 건강하고 모범적인 AI 기반 생태계 조성 사례로 기록되길 희망한다. 이 사업을 계기로 기술개발 혜택은 물론 향후 신사업 진출이나 자사 매출 향상에도 도움이 될 것”이라고 말했다.

지난 2018년 여성가족부가 조사한 청소년 매체이용 및 유해환경 실태조사에 따르면 초등학생의 성인용 영상물 이용률이 2016년도에 18.6%에서 2018년도엔19.6%로 증가한 것으로 확인됐다.

스마트폰 보급의 확산으로 사용자 연령층이 낮아지면서 음란물의 경험 시기가 점차 저연령화 되고 있는 것으로 나타났다.

더욱이 코로나19의 전국적인 확산으로 청소년들이 집에서 머무는 시간이 늘어남에 따라 음란물 이용률 역시 증가할 것으로 예상된다. 실제로 온라인 학부모 커뮤니티에는 자녀가 원격수업 중 유해 동영상을 보고 있었다는 고민의 글도 올라오고 있다.

최근 P2P, 메신저, 소셜미디어, 웹사이트를 통해 공유, 재생되는 음란 영상은 대부분 하이라이트 편집, 문구 삽입 등 변형된 형태로 저장된다. 원본 파일이 변형되면 Hash값도 함께 변경되기 때문에 유해영상 차단이 어려워진다. 더욱이 향후 음란 영상의 유통이 점차 은밀해지고, 지능화될 것으로 예상되기 때문에 다양한 형태의 음란 영상에 대한 차단 기술 구현이 필요한 상황이다.

이번 정보통신산업진흥원(NIPA) 지원 아래 고도화한 ‘AI 기반 유해 영상 및 이미지 데이터 분석, 가공 엔진’으로 다채롭고 수많은 유해 영상 학습 데이터를 구축하고 파일 변형 및 해시(Hash)값 변경과 무관하게 유해물을 인식·차단할 수 있게 된다.

또 제한된 영상물 차단에서 벗어나 이미지, 음성파일, 음란 영상 스트리밍 URL 등 다양한 형태의 소스를 사전에 진단하고 차단함으로써 차단 영역도 확장되고 유해물 노출 위험도 최소화할 수 있다는 장점이 있다.