검색창 열기 인더뉴스 부·울·경

Stock 증권

알엔딥, N번방 아동성착취 공유 방지책 레드 AI로 대안 제시

URL복사

Friday, April 24, 2020, 08:04:33

인더뉴스 김현우 기자ㅣ N번방 성착취 영상 유포사건에 대한 대응기술로 RED AI 기술을 발표한 알엔딥이 성폭력, 포르노 및 음란물, 유해사이트를 막기 위한 인공지능 성인물 검출 기술 공개와 함께 이같은 유해 동영상 및 이미지의 특정 노출부위에 모자이크를 자동으로 생성해 주는 기술을 이어 공개했다고 24일 밝혔다. 검출 기술을 뚫고 유출될 수 있을 불법 콘텐츠까지 원천봉쇄할 수 있도록 기술개발의 확장을 실현하고 있다는 평가다.

 

알엔딥의 레드 AI 모자이크 기술은 입력된 사진 및 영상의 모든 프레임을 검사하고, 주요 노출부위에 대해 모자이크를 자동으로 정확하게 생성해주는 기술이다. 성인물의 노출 수위, 모자이크의 크기, 모양, 투명도 등 모든 변수를 임의 설정가능하고, 그 설정 값에 따라 컨텐츠를 검사하여 모자이크를 생성한다.

 

해당 화면 내에 문제가 될만한 부분이 포함되어 있다면 해당 화면 전체를 모두 가리기 위하여 블랙화면으로 처리할 수도 있고, 특정 부위만 흐릿하게 보이게 하는 블러링(Bluring) 처리를 할 수도 있다.

 

알엔딥 관계자는 “본 기술과 더불어 검사 속도를 최적화 할 수 있는 기술을 보유하고 있다”며 “단순 검사 방식은 영상의 길이가 길 경우 모자이크 생성에 상대적으로 많은 시간이 소요될 수 있는 반면 알엔딥 레드 AI기술은 매우 빠른 속도로 모자이크를 생성하고, 끊김이 없이 생성시키는 최적화 기술”이라고 소개했다.

 

알엔딥 레드 AI 기술은 모든 영상의 모자이크를 원하는 형태로 생성시킬 수 있고, 영상에 특정 노출 부위(가슴, 엉덩이, 성기)가 어느 정도 범위에 포함되어 있는지 까지 세분화하여 알아낼 수 있다.

 

이 기술은 나아가 사회적인 문제가 되는 아동포르노를 검출하는데도 활용될 수 있다는 설명이다. 향후 국내외 기관과 긴밀히 협조하여 데이터 셋을 확보하고 이를 통해 아동포르노등을 검출하는 기술을 개발하여 공유할 예정이라고 회사 측은 밝혔다.

 

 

또한 알엔딥은 RED AI 딥페이크 검출 기술을 바탕으로 불법적으로 활용되는 페이크영상(거짓영상)까지 검출하는 기술을 함께 발표하면서 “텔레그램 내 성착취 영상을 ‘N번방’, ‘박사방’ 외에도 유명인 얼굴을 불법 영상, 이미지와 합성한 ‘딥페이크’ 영상이 유포되는 것까지 아울러 경찰의 엄중 수사가 펼쳐지고 있는 이 시점에 온라인 커뮤니케이션에서 행해지는 일련의 불법적 상황들에 원천적으로 대응할 수 있도록 기술개발을 확장하고 있다”고 강조했다.

 

어플리케이션 등을 통해 누구나 쉽게 합성할 수 있는 ‘딥페이크물’은 합성대상자가 유명인을 비롯한 일반인들까지 확대되면서, 개인적 명예훼손부터 나아가 자살로 이어질 수 있는 문제까지 심각한 사회적 문제로 대두되고 있다. 한류의 열풍이 이어지고 있는 가운데 한류스타들에 대한 페이크영상도 날이 갈수록 많아지고 있으며, 그 기술 역시 점점 정교해지고 있어 ‘딥페이크물’의 피해는 K-pop, K-드라마, K-뮤비 스타들의 정신적 피해를 비롯한 기획사의 경제적 피해까지 그 규모 역시 날로 커지고 있는 실정이다.

 

알엔딥이 개발하고 있는 딥페이크 검출 기술은 AI 딥러닝으로 구현된 기술로, 사진 및 영상 속 얼굴을 자동으로 찾아내고, 페이크 인지 아닌지를 1초내에 찾아낸다. 페이크 합성 기술이 날로 정교해 지고 있는 가운데, 알엡딥 역시 다양한 데이터 셋을 확보하고 AI기반의 학습을 시킴으로 정교한 합성을 모두 감별해 낼 수 있는 정확도 높은 기술을 구현해 내고 있다.

 

이러한 기술을 활용하면 쉽게 페이크 인지 아닌지를 찾아낼 수 있고, 페이크로 판별된 컨텐츠는 업로드/다운로드 및 SNS를 통해 전달되지 않도록 하는 기술로 활용될 수 있다고 회사 측은 강조했다.

 

English(中文·日本語) news is the result of applying Google Translate. <iN THE NEWS> is not responsible for the content of English(中文·日本語) news.

배너

김현우 기자 sapience@inthenews.co.kr

배너

레고랜드가 용산에 이사를 왔나?

레고랜드가 용산에 이사를 왔나?

2025.05.13 17:25:42

인더뉴스 문정태 기자ㅣ레고랜드 코리아 리조트가 서울 용산역 광장에서 깜짝 퍼레이드 이벤트 ‘플레이 팝(Play & Pop-up)’을 개최했습니다. 이 행사는 레고랜드 개장 이후 서울 도심에서 처음 열린 플래그 퍼레이드 행사로, 시민들에게 ‘놀이의 가치’를 전하기 위해 마련됐습니다. 13일 레고랜드에 따르면, 이번 행사는 내달 14일까지 강원도 춘천에서 열리는 글로벌 놀이축제 ‘레고 페스티벌’를 기념해 진행됐습니다. 세계놀이의 날(6월 11일)을 맞아 전 세계 7개 레고랜드에서 열리는 페스티벌 중 한국에서는 유일하게 춘천에서 열리고 있습니다. 이날 행사에는 레고 페스티벌 대표 마스코트인 다코타 스틸, 악셀 트래시, 엠버 리프 등 캐릭터들이 등장해 공연과 플래그 퍼레이스를 펼쳤습니다. 이들은 “잘 노는 아이가 행복한 어른으로!” “모든 어린이에게 놀 권리를!”이라는 메시지를 시민들에게 전달했습니다. 이어 용산 아이파크몰 내 ‘더 가든’에서 레고 코스튬 공연이 열렸고, 현장을 찾은 어린이들과 함께 ‘놀이 서약’ 행사도 진행됐습니다. 아이들은 직접 이름을 쓰고 ‘웃고, 뛰고, 상상하며 놀겠다’는 약속을 했으며, 동반한 어른들은 이 서약을 지지하며 어린이의 놀이 권리를 함께 응원했습니다. 현장 참여자 전원에게는 춘천 레고랜드에서 열리는 레고 페스티벌 입장 시 사용할 수 있는 40% 할인권과 놀이 서약서가 제공됐습니다. 김영옥 레고랜드 코리아 마케팅 상무는 “서울에서 진행한 이번 ‘플레이 팝’은 놀이의 가치를 더 많은 사람들에게 전하기 위한 시도였다”며 “앞으로도 레고랜드는 ‘놀이를 통한 학습’이라는 브랜드 철학 아래 다양한 콘텐츠를 통해 방문객에게 특별한 순간을 제공하겠다”고 말했습니다. 한편, 레고 페스티벌은 게임, 뮤직, 크리에이티브, 댄스, 칠아웃 등 5개 테마존으로 구성돼 있는데, 12만9913개의 브릭으로 만든 대형 ‘레고 하트 포토존’도 마련됐습니다. 체험형 미션을 통해 모든 존을 즐긴 방문객은 ‘놀이 서약’을 남기며 축제의 의미를 마무리하게 됩니다.


배너


배너