검색창 열기 인더뉴스 부·울·경

Stock 증권

알엔딥, N번방 아동성착취 공유 방지책 레드 AI로 대안 제시

URL복사

Friday, April 24, 2020, 08:04:33

인더뉴스 김현우 기자ㅣ N번방 성착취 영상 유포사건에 대한 대응기술로 RED AI 기술을 발표한 알엔딥이 성폭력, 포르노 및 음란물, 유해사이트를 막기 위한 인공지능 성인물 검출 기술 공개와 함께 이같은 유해 동영상 및 이미지의 특정 노출부위에 모자이크를 자동으로 생성해 주는 기술을 이어 공개했다고 24일 밝혔다. 검출 기술을 뚫고 유출될 수 있을 불법 콘텐츠까지 원천봉쇄할 수 있도록 기술개발의 확장을 실현하고 있다는 평가다.

 

알엔딥의 레드 AI 모자이크 기술은 입력된 사진 및 영상의 모든 프레임을 검사하고, 주요 노출부위에 대해 모자이크를 자동으로 정확하게 생성해주는 기술이다. 성인물의 노출 수위, 모자이크의 크기, 모양, 투명도 등 모든 변수를 임의 설정가능하고, 그 설정 값에 따라 컨텐츠를 검사하여 모자이크를 생성한다.

 

해당 화면 내에 문제가 될만한 부분이 포함되어 있다면 해당 화면 전체를 모두 가리기 위하여 블랙화면으로 처리할 수도 있고, 특정 부위만 흐릿하게 보이게 하는 블러링(Bluring) 처리를 할 수도 있다.

 

알엔딥 관계자는 “본 기술과 더불어 검사 속도를 최적화 할 수 있는 기술을 보유하고 있다”며 “단순 검사 방식은 영상의 길이가 길 경우 모자이크 생성에 상대적으로 많은 시간이 소요될 수 있는 반면 알엔딥 레드 AI기술은 매우 빠른 속도로 모자이크를 생성하고, 끊김이 없이 생성시키는 최적화 기술”이라고 소개했다.

 

알엔딥 레드 AI 기술은 모든 영상의 모자이크를 원하는 형태로 생성시킬 수 있고, 영상에 특정 노출 부위(가슴, 엉덩이, 성기)가 어느 정도 범위에 포함되어 있는지 까지 세분화하여 알아낼 수 있다.

 

이 기술은 나아가 사회적인 문제가 되는 아동포르노를 검출하는데도 활용될 수 있다는 설명이다. 향후 국내외 기관과 긴밀히 협조하여 데이터 셋을 확보하고 이를 통해 아동포르노등을 검출하는 기술을 개발하여 공유할 예정이라고 회사 측은 밝혔다.

 

 

또한 알엔딥은 RED AI 딥페이크 검출 기술을 바탕으로 불법적으로 활용되는 페이크영상(거짓영상)까지 검출하는 기술을 함께 발표하면서 “텔레그램 내 성착취 영상을 ‘N번방’, ‘박사방’ 외에도 유명인 얼굴을 불법 영상, 이미지와 합성한 ‘딥페이크’ 영상이 유포되는 것까지 아울러 경찰의 엄중 수사가 펼쳐지고 있는 이 시점에 온라인 커뮤니케이션에서 행해지는 일련의 불법적 상황들에 원천적으로 대응할 수 있도록 기술개발을 확장하고 있다”고 강조했다.

 

어플리케이션 등을 통해 누구나 쉽게 합성할 수 있는 ‘딥페이크물’은 합성대상자가 유명인을 비롯한 일반인들까지 확대되면서, 개인적 명예훼손부터 나아가 자살로 이어질 수 있는 문제까지 심각한 사회적 문제로 대두되고 있다. 한류의 열풍이 이어지고 있는 가운데 한류스타들에 대한 페이크영상도 날이 갈수록 많아지고 있으며, 그 기술 역시 점점 정교해지고 있어 ‘딥페이크물’의 피해는 K-pop, K-드라마, K-뮤비 스타들의 정신적 피해를 비롯한 기획사의 경제적 피해까지 그 규모 역시 날로 커지고 있는 실정이다.

 

알엔딥이 개발하고 있는 딥페이크 검출 기술은 AI 딥러닝으로 구현된 기술로, 사진 및 영상 속 얼굴을 자동으로 찾아내고, 페이크 인지 아닌지를 1초내에 찾아낸다. 페이크 합성 기술이 날로 정교해 지고 있는 가운데, 알엡딥 역시 다양한 데이터 셋을 확보하고 AI기반의 학습을 시킴으로 정교한 합성을 모두 감별해 낼 수 있는 정확도 높은 기술을 구현해 내고 있다.

 

이러한 기술을 활용하면 쉽게 페이크 인지 아닌지를 찾아낼 수 있고, 페이크로 판별된 컨텐츠는 업로드/다운로드 및 SNS를 통해 전달되지 않도록 하는 기술로 활용될 수 있다고 회사 측은 강조했다.

 

English(中文·日本語) news is the result of applying Google Translate. <iN THE NEWS> is not responsible for the content of English(中文·日本語) news.


김현우 기자 sapience@inthenews.co.kr


“언론 플레이는 제가 다 할 수 있어..융단 폭격하지요 뭐”

“언론 플레이는 제가 다 할 수 있어..융단 폭격하지요 뭐”

2024.03.28 10:39:42

부산 = 인더뉴스 제해영 기자ㅣ“필요하면 융단 폭격하지요 뭐”, “그냥 지역신문 이런 거 아닙니다”, “암튼 언론 걱정은 하지 마세요.” 서울에 본사를 두고 있는 한 인터넷신문의 부울경(부산/울산/경남) 취재본부에서 청탁성 기사로 의심되는 기사가 대거 게재돼 물의를 일으키고 있습니다. 특히, 해당 기사 때문에 선의의 피해자들이 대거 발생할 수도 있는 상황이어서 각별한 주의가 요망됩니다. 28일 인더뉴스가 입수한 단체 카카오톡방(이하 단톡방)에는 다소 과격해 보이는 대화내용이 이어집니다. 이 단톡방은 내달 입주가 예정돼 있는 부산 일광의 신축 타운하우스 입주예정자들이 모여 있는 곳인데요. 타운하우스의 입주 예정자인 A씨는 거침 없는 언사를 쏟아냈습니다. 그는 단톡방에 있는 사람들에게 "계속 민원을 넣어주세요. 알아야 됩니다. 사태의 심각성을.."이라며 민원을 사주하는 듯한 말을 했습니다. 그러면서 그는 "언론 플레이는 제가 다 할 수 있습니다. 필요하면 융단 폭격하지요 뭐."라며 "언론 들어가면 그 때부터는 이판 사판"이라고 시행사와 시공사를 상대로 언론공세를 퍼붓겠다는 계획을 피력했습니다. 특히 그는 "기장에서 싸움나면 우리 안 집니다."라며 "실수하면 우리가 질 수도(있는데)... 현장에 농성텐트를 칩시다"라며 입주 예정자들을 상대로 선동을 하는 듯한 말도 주저하지 않았습니다. 문제는 A씨가 공언한 것이 실제로 현실화됐다는 점입니다. 이와 관련한 내용이 단톡방에서 시작된 때는 이달 초. 불과 10여일 뒤인 12일에 처음으로 <“입주가 코앞인데”...부산 기장 아파트 입주민, 시공하자에 ‘분통’>이라는 제목의 기사가 나왔습니다. 기사에는 단톡방에서 이야기된 대로 일부 입주예정자들이 현수막과 피켓을 들고, 기장군청 앞에서 시위를 벌이는 내용이 사진과 함께 실렸습니다. 이어 3일 뒤인 15일에는 또 다시 같은 매체에서 <“2년을 기다렸는데”...부산 기장 한 아파트, 입주의 꿈이 지옥 현실로>라는 기사가 나왔습니다. 이전과 마찬가지로 소수의 입주예정자들이 군청 앞에서 시위를 하는 모습이 기사에 담겼습니다. A씨가 단톡방에서 단언한 대로 ‘언론 플레이’는 계속됐습니다. 22일에는 <“안전한 환경 조성해달라” 부산 한 아파트 입주민들의 호소>라는 제목의 기사가 나왔고, 급기야 27일에는 [단독]이라는 머릿글을 달아서 <한수원 직원이 1100억대 시행사 부사장?...겸직 신고 ‘유명무실’>이라는 자극적인 기사를 끝으로 이른 바 ‘융단 폭격’이 완성됐습니다. 이와 관련, 입주 예정자들은 불안한 마음을 내비치고 있습니다. 자신들이 살아야 할 집에 대한 이미지나 가치가 떨어질 게 뻔해 보이기 때문. 한 입주 예정자는 “일부 분양자들의 민원과 시위에 대해 부분적으로 이해는 되지만, 원치 않는 내용들로 인해 저희 집에 대한 이미지가 나빠질까 불안하다”며 “예정대로 입주를 희망할 수 있기를 바란다”고 말했습니다. 특히, 이 매체가 쏟아내고 있는 기사들 때문에 선의의 피해자들이 대거 발생할 수 있다는 점은 큰 문제로 지적되고 있습니다. 부동산 업계 관계자는 “계속 이런 부정적인 기사들이 나오면 입주할 마음이 있던 사람들도 발길을 돌릴 수밖에 없다”며 “이런 상황이 계속되면 시행사나, 시공사는 물론 이미 계약을 한 다수의 입주 예정자들에게 막대한 금전적인 손실을 끼칠 수도 있다”고 말했습니다.


배너


배너