검색창 열기

Stock 증권

알엔딥, N번방 아동성착취 공유 방지책 레드 AI로 대안 제시

URL복사

Friday, April 24, 2020, 08:04:33

인더뉴스 김현우 기자ㅣ N번방 성착취 영상 유포사건에 대한 대응기술로 RED AI 기술을 발표한 알엔딥이 성폭력, 포르노 및 음란물, 유해사이트를 막기 위한 인공지능 성인물 검출 기술 공개와 함께 이같은 유해 동영상 및 이미지의 특정 노출부위에 모자이크를 자동으로 생성해 주는 기술을 이어 공개했다고 24일 밝혔다. 검출 기술을 뚫고 유출될 수 있을 불법 콘텐츠까지 원천봉쇄할 수 있도록 기술개발의 확장을 실현하고 있다는 평가다.

 

알엔딥의 레드 AI 모자이크 기술은 입력된 사진 및 영상의 모든 프레임을 검사하고, 주요 노출부위에 대해 모자이크를 자동으로 정확하게 생성해주는 기술이다. 성인물의 노출 수위, 모자이크의 크기, 모양, 투명도 등 모든 변수를 임의 설정가능하고, 그 설정 값에 따라 컨텐츠를 검사하여 모자이크를 생성한다.

 

해당 화면 내에 문제가 될만한 부분이 포함되어 있다면 해당 화면 전체를 모두 가리기 위하여 블랙화면으로 처리할 수도 있고, 특정 부위만 흐릿하게 보이게 하는 블러링(Bluring) 처리를 할 수도 있다.

 

알엔딥 관계자는 “본 기술과 더불어 검사 속도를 최적화 할 수 있는 기술을 보유하고 있다”며 “단순 검사 방식은 영상의 길이가 길 경우 모자이크 생성에 상대적으로 많은 시간이 소요될 수 있는 반면 알엔딥 레드 AI기술은 매우 빠른 속도로 모자이크를 생성하고, 끊김이 없이 생성시키는 최적화 기술”이라고 소개했다.

 

알엔딥 레드 AI 기술은 모든 영상의 모자이크를 원하는 형태로 생성시킬 수 있고, 영상에 특정 노출 부위(가슴, 엉덩이, 성기)가 어느 정도 범위에 포함되어 있는지 까지 세분화하여 알아낼 수 있다.

 

이 기술은 나아가 사회적인 문제가 되는 아동포르노를 검출하는데도 활용될 수 있다는 설명이다. 향후 국내외 기관과 긴밀히 협조하여 데이터 셋을 확보하고 이를 통해 아동포르노등을 검출하는 기술을 개발하여 공유할 예정이라고 회사 측은 밝혔다.

 

 

또한 알엔딥은 RED AI 딥페이크 검출 기술을 바탕으로 불법적으로 활용되는 페이크영상(거짓영상)까지 검출하는 기술을 함께 발표하면서 “텔레그램 내 성착취 영상을 ‘N번방’, ‘박사방’ 외에도 유명인 얼굴을 불법 영상, 이미지와 합성한 ‘딥페이크’ 영상이 유포되는 것까지 아울러 경찰의 엄중 수사가 펼쳐지고 있는 이 시점에 온라인 커뮤니케이션에서 행해지는 일련의 불법적 상황들에 원천적으로 대응할 수 있도록 기술개발을 확장하고 있다”고 강조했다.

 

어플리케이션 등을 통해 누구나 쉽게 합성할 수 있는 ‘딥페이크물’은 합성대상자가 유명인을 비롯한 일반인들까지 확대되면서, 개인적 명예훼손부터 나아가 자살로 이어질 수 있는 문제까지 심각한 사회적 문제로 대두되고 있다. 한류의 열풍이 이어지고 있는 가운데 한류스타들에 대한 페이크영상도 날이 갈수록 많아지고 있으며, 그 기술 역시 점점 정교해지고 있어 ‘딥페이크물’의 피해는 K-pop, K-드라마, K-뮤비 스타들의 정신적 피해를 비롯한 기획사의 경제적 피해까지 그 규모 역시 날로 커지고 있는 실정이다.

 

알엔딥이 개발하고 있는 딥페이크 검출 기술은 AI 딥러닝으로 구현된 기술로, 사진 및 영상 속 얼굴을 자동으로 찾아내고, 페이크 인지 아닌지를 1초내에 찾아낸다. 페이크 합성 기술이 날로 정교해 지고 있는 가운데, 알엡딥 역시 다양한 데이터 셋을 확보하고 AI기반의 학습을 시킴으로 정교한 합성을 모두 감별해 낼 수 있는 정확도 높은 기술을 구현해 내고 있다.

 

이러한 기술을 활용하면 쉽게 페이크 인지 아닌지를 찾아낼 수 있고, 페이크로 판별된 컨텐츠는 업로드/다운로드 및 SNS를 통해 전달되지 않도록 하는 기술로 활용될 수 있다고 회사 측은 강조했다.

 

English(中文·日本語) news is the result of applying Google Translate. <iN THE NEWS> is not responsible for the content of English(中文·日本語) news.

배너

김현우 기자 sapience@inthenews.co.kr


에딧시티 프로젝트, '티앤마인드풀니스 위크’ 진행

에딧시티 프로젝트, '티앤마인드풀니스 위크’ 진행

2023.06.09 20:16:00

인더뉴스 김용운 기자ㅣ에딧시티 프로젝트는 한국의 다양한 지역을 기반으로 한 티&마인드풀니스(Tea&Mindfulness) 브랜드 루하루(LUHALU)의 공식 론칭을 기념해 '티앤마인드풀니스 위크'를 진행한다고 9일 밝혔습니다. 루하루는 에딧시티 프로젝트가 인큐베이팅하는 첫번째 브랜드 프로젝트인데요. 에딧시티 프로젝트는 브랜드 마케터, 건축가, 지역 활동가, 아티스트 등이 주축이 된 다영역간 콜렉티브 워킹그룹입니다. 에딧시티 프로젝트는 루하루의 판매를 기념한 이번 위크에서 안무가 김혜연의 '생성예술시대의 마음챙김'(14일 오후 7시)과 요가하는 사진가이자 힐링 마스터 권영주의 차명상, 그리고 사진전이 더해진 '퇴근 후 마음챙김 한잔(16일 오후 7시)' 등의 프로그램을 서울 양재동의 편집소에서 진행합니다. 자세한 사항은 에잇시트 프로젝트 공식 인스타그램에서 확인할 수 있습니다. 남윤주 에딧시티 프로젝트 대표는 "여유로운 양재천을 곁에 둔 골목길 안 소박한 공간인 이 곳 편집소에서 런칭과 함께 쇼룸을 오픈하는 루하루는 일상다반사를 통한 마인드풀 모먼츠를 선사하며 지속가능한 삶에 대한 새로운 영감을 제시해나가고자 한다"고 말했습니다.


배너


배너

배너