98.1%의 높은 적중률 보여…동영상 필터링에도 확대 적용 예정

▲ 네이버가 자사 검색 서비스에 AI를 활용한 음란물 필터링 기술을 적용한다.

[아이티데일리] 네이버는 자체 개발한 음란물 필터링 인공지능(AI) 기술 ‘네이버 X-아이(X-eye)’를 이미지 부분에 적용한다고 31일 밝혔다.

‘네이버 X-아이’는 부적절한 내용을 담은 이미지가 등록될 경우 이를 실시간으로 감지해 검색 노출을 막는다. 네이버 측은 적용에 앞서 형태별로 분류한 방대한 이미지를 통해 10개월 동안의 학습 과정을 거쳤으며, 최근 버전에서는 4백만 장의 이미지를 대상으로 음란물 필터링을 테스트한 결과 98.1%의 높은 적중률을 나타냈다.

‘네이버 X-아이’는 이미지의 각 부분을 순차적으로 훑어 특징을 추출하는 ‘컨볼루션(convolution)’과, 이를 바탕으로 여러 층의 레이어를 형성하는 ‘딥러닝(deep learning)’을 반복해 이미지에 대한 분석을 시행, 최종적으로 기존에 학습한 데이터에 기반해 음란물 여부를 판독한다. 따라서 개발자가 이미지를 유형별로 세분화해 학습시키는 것이 핵심이다.

네이버 측은 ‘네이버 X-아이’의 적용을 통해 연중 24시간 성인 이미지 실시간 감지 시스템이 가동된다고 밝혔다. 또한 감지하지 못한 극히 일부 성인 이미지의 경우 AI가 학습을 통해 진화하면서 극복될 예정이다.

오경수 네이버 UGC운영정책 리더는 “이번 ‘네이버 X-아이’ 출시로 성인 이미지에 대한 연중무휴 실시간 대응이 가능해졌다”며, “향후 동영상 필터링에도 확대 적용할 방침이며, 건전한 인터넷 이용환경 조성을 위해 외부에서도 손쉽게 사용할 수 있는 AI 필터링 프로그램 제공을 검토하고 있다”고 말했다.

저작권자 © 아이티데일리 무단전재 및 재배포 금지