인공지능으로 성인 이미지 걸러 낸다

0

네이버가 자체 개발한 음란물 필터링 AI기술인 ‘네이버 X-eye’를 이미지 부분에 적용한다. 

네이버 엑스아이(X-eye)는 부적절한 내용을 담은 이미지(음란물)가 네이버에 등록될 경우 이를 실시간으로 감지해 검색 노출을 막아주는 기능이다.  엑스아이 적용에 앞서 네이버는 10개월 동안 방대한 이미지를 토대로 AI를 학습시켰다. 그 결과 네이버 엑스아이는 최신 버전을 통해 4백만장의 이미지(정상+음란물) 필터링을 내부 실험한 결과 98.1%의 인식률로 정상 이미지와 음란물을 걸러냈다.

엑스아이의 적용으로 24시간 성인 이미지를 실시간 감지할 수 있게 됐고 감지하지 못한 극히 일부의 성인 이미지의 경우 추가적인 AI 학습을 통해 진화해 극복될 예정이라고 회사측은 설명했다.
네이버 엑스아이는 먼저 네모난 돋보기로 그림을 보듯 이미지의 각 부분을 순차적으로 훑어 특징을 추출한다. 이렇게 추출된 특징만을 따로 모아 또다른 이미지 층을 만들고, 여기서도 앞서 설명한 이미지 검색 작업이 반복된다. 이렇게 이미지 조각에서 고유한 특징을 추출하는 것을컨볼루션(convolution)’이라고 부르며, 이런 과정을 여러 단계에 걸쳐 반복하면서 (deep) 러닝이 이뤄지게 된다. 이렇게 분석이 끝난 최종 결과물은 기존 학습데이터의 카테고리로 분류해가며 음란성 여부를 판독하게 된다. 때문에 이미지 데이터를 개발자가 하나하나 유형별로 세분화해 학습시키는 것이 성인 이미지 필터링 기술의 핵심이다. 이미지를 여러 카테고리로 나눌수록 구분이 명확하져 잘 못 판독할 확률이 낮아지기 때문이다. 예를들어 이미지를 자연, 풍경, 인물 정도의 수준으로 나누는 것이 아니라 자연(산, 들, 바다), 풍경(도시, 외국, 휴양지), 인물(남자, 여자, 아이) 등으로 세분화 시킬 경우 학습량이 많아져 인식률 역시 덩달아 높아지게 된다.  

네이버 엑스아이에서 정한 성인 이미지 정의는 방송통신위원회의 Safe Net 등급에 따른다 

[참고] 방통위 Safe Net 등급 기준
성기, 음모, 항문 노출 및 성행위
어린이/유아를 성적 유희의 대상으로 묘사하는 경우
그 외 법적으로 금지된 불법 음란물을 게재한 경우

About Author

김재희 IT칼럼니스트
/ wasabi@venturesquare.net

신제품을 써보는 게 좋아 덜컥 입사해 버린 PC활용지 기자를 거쳐 이제는 15년차 생계형 글쟁이. 바퀴 달린 모든 것을 사랑하며 질주를 즐기는 드라이버/라이더/스키어. 그리고 지금도 현재진행형인 Dreamer...

MS  httpwwwventuresquarenet
MS  httpwwwventuresquarenet
MS  httpwwwventuresquarenet
MS  httpwwwventuresquarenet
MS  httpwwwventuresquarenet
MS  httpwwwventuresquarenet
MS  httpwwwventuresquarenet
MS  httpwwwventuresquarenet
MS  httpwwwventuresquarenet