인더뉴스 김현우 기자ㅣ N번방 성착취 영상 유포사건이 사회적 이슈가 되고 있는 가운데 음란물과 유해사이트를 막을 수 있는 기술이 공개됐다.
알엔딥은 AI 딥러닝 기술중 하나인 GAN(생성적 적대 인공 신경망)을 기반으로 구현된 기술로 성인물 검출 기술을 개발했다고 9일 밝혔다.
기술 개발을 위해 알엔딥은 약 30만장의 성인 노출 사진을 인공지능에 학습시켰고, 이를 통해 훈련된 AI는 순식간에 컨텐츠가 성인물인지 아닌지를 찾아낸다.
알엔딥의 관계자는 "레드 AI 기술을 이용하면 사진, 영상 뿐만 아니라 단순화 되어 표현된 만화, 그림 속에 포함된 Nudity(노출 상태)까지 정확하게 찾아낸다"며 "검사하는데 걸리는 시간은 1초 미만"이라고 설명했다.
알엔딥에서 보유한 빅데이터와 크롤링 기술을 접목할 경우 특정 사이트의 주소내에 성인물이 포함되어 있는지를 사전 검사할수 있고, 성인물이 포함되어 있는 경우 사이트 전체를 차단하도록 하는 서비스에도 활용될 수 있다.
알엔딥 레드 AI 기술은 컨텐츠에 대한 직접적인 검사 뿐만 아니라 URL 등을 검사하는 데도 사용될 수 있다. 메신저상에서 URL을 보낼 경우, URL에 연결된 컨텐츠가 성인 사진이나 영상일 경우 URL 전달을 차단하게도 할 수 있다.
국가에서 운영하는 유해사이트 정보의 경우 인위적으로 등록된 URL을 차단하는 시스템으로, 신규로 만들어진 사이트에 대해서는 차단이 불가능하다. 유해사이트로 등록되는 속도보다 신규로 만들어지는 사이트가 더 많기 때문에 100% 차단하기에는 역부족인 것이다.
알엔딥 레드 AI는 특정 유저가 사이트를 열기전, 사이트내 연결된 컨텐츠를 모두 검사하고 유해성을 확인한다. 즉 사이트를 열기전 AI가 먼저 성인물 포함 여부를 검사하기 때문에 유해사이트인지 아닌지를 훨씬 높은 정확도로 검사해 낼 수 있다.
이렇게 확인된 유해사이트 URL 등은 국가유해사이트 정보원으로 자동으로 신고를 하게 되어 추가 접속의 경우 AI검사 없이 차단이 가능하다. 알앤딥 관계자는 "성인물 모자이크 생성기술 딥페이크 검출 기술도 완성 단계에 있으며 4월 내에 대중에게 공개할 예정"이라고 밝혔다.
