인더뉴스 노혜정 인턴기자ㅣ네이버(대표 한성숙)가 음란 이미지를 실시간으로 감지해 검색 노출을 막아주는 ‘엑스아이(X-eye) 2.0’을 7월부터 적용합니다.
29일 네이버에 따르면 지난 2017년 선보인 ‘엑스아이’는 네이버에 축적된 400여만장의 이미지를 형태별로 분류해 AI 학습을 거쳐 탄생했습니다.
기존에는 이미지 모니터링 담당자들이 조치를 취할 때까지 유해물이 노출된다는 지적이 있었는데요. 음란물 필터링 AI 시스템 ‘엑스아이’ 도입 이후 98.1%의 높은 적중률로 유해 사진·동영상을 실시간으로 걸러낸다는 게 네이버의 설명입니다.
7월부터 새롭게 선보이는 ‘엑스아이 2.0’은 네이버 AI랩과 클로바가 진행한 선행 이미지인식 기술 연구결과들이 활용돼 더욱 고도화됐는데요. 가령 ▲속도·정확도가 더욱 높아진 고성능 이미지인식 모델 ‘렉스넷(ReXNet)’ ▲AI 모델 학습 시 데이터 부족을 위해 사용되는 데이터증강기법 ‘컷믹스(CutMix)’ ▲더욱 안정적으로 모델을 학습하고 인식 정확도를 향상시키는 최적화기법 ‘AdamP’ 등의 AI 기술들이 적용됐습니다.
기존 정상·음란으로만 구분하던 ‘엑스아이 1.0’에서 정상·음란·성인·선정 4가지 등급으로 커버리지를 확대하면서 더 높은 판단 정확도인 99.5%에 도달했습니다. 기존 음란·성적인 이미지뿐 아니라 선정적 표현에 대한 판단 정확도가 높아져 다양한 서비스에서 활용이 가능합니다.
아울러 문제된 부분이 지나치게 작거나 희미한 경우 등 잘못 탐지할 가능성이 높은 사례도 보완했습니다. 일부 놓친 이미지에 대해서도 고도화된 AI 모델이 빠르게 자동학습 하도록 설계했는데요. 이를 바탕으로 최신 데이터를 지속적으로 반영한 탐지 정확도 상승이 기대됩니다.
유봉석 네이버 서비스운영총괄은 “건전한 인터넷 이용 환경 조성을 위해 네이버는 음란물, 성인물은 물론 불법촬영물, 혐오 등 사회적 변화에 맞춰 다양한 유해 콘텐츠 차단을 위해 지속적으로 노력해오고 있다”며 “추후 엑스아이의 오픈 API 기술을 공개해 아직 기술이 부족한 스타트업과 사업자 등 다양한 영역에서 활용할 수 있도록 준비 예정이다”고 말했습니다.
또한 정석근 네이버 클로바 CIC 대표는 “네이버 클로바에서 진행 중인 다양한 선행 연구 결과물이 서비스나 비즈니스를 넘어 사회 문제 해결에 성공적으로 기여한 중요한 사례다”며 “앞으로도 자체 개발한 고도화된 AI 기술이 실생활에 도움이 되도록 협업하겠다”고 말했습니다.
![[인더필드] 더미식 신제품 ‘사천자장면’…하림은 확실한 2위 노린다](https://www.inthenews.co.kr/data/cache/public/photos/20240416/art_17134232137832_86acb8_120x90.jpg)
