검색창 열기 인더뉴스 부·울·경

Stock 증권

알엔딥, N번방 아동성착취 공유 방지책 레드 AI로 대안 제시

URL복사

Friday, April 24, 2020, 08:04:33

인더뉴스 김현우 기자ㅣ N번방 성착취 영상 유포사건에 대한 대응기술로 RED AI 기술을 발표한 알엔딥이 성폭력, 포르노 및 음란물, 유해사이트를 막기 위한 인공지능 성인물 검출 기술 공개와 함께 이같은 유해 동영상 및 이미지의 특정 노출부위에 모자이크를 자동으로 생성해 주는 기술을 이어 공개했다고 24일 밝혔다. 검출 기술을 뚫고 유출될 수 있을 불법 콘텐츠까지 원천봉쇄할 수 있도록 기술개발의 확장을 실현하고 있다는 평가다.

 

알엔딥의 레드 AI 모자이크 기술은 입력된 사진 및 영상의 모든 프레임을 검사하고, 주요 노출부위에 대해 모자이크를 자동으로 정확하게 생성해주는 기술이다. 성인물의 노출 수위, 모자이크의 크기, 모양, 투명도 등 모든 변수를 임의 설정가능하고, 그 설정 값에 따라 컨텐츠를 검사하여 모자이크를 생성한다.

 

해당 화면 내에 문제가 될만한 부분이 포함되어 있다면 해당 화면 전체를 모두 가리기 위하여 블랙화면으로 처리할 수도 있고, 특정 부위만 흐릿하게 보이게 하는 블러링(Bluring) 처리를 할 수도 있다.

 

알엔딥 관계자는 “본 기술과 더불어 검사 속도를 최적화 할 수 있는 기술을 보유하고 있다”며 “단순 검사 방식은 영상의 길이가 길 경우 모자이크 생성에 상대적으로 많은 시간이 소요될 수 있는 반면 알엔딥 레드 AI기술은 매우 빠른 속도로 모자이크를 생성하고, 끊김이 없이 생성시키는 최적화 기술”이라고 소개했다.

 

알엔딥 레드 AI 기술은 모든 영상의 모자이크를 원하는 형태로 생성시킬 수 있고, 영상에 특정 노출 부위(가슴, 엉덩이, 성기)가 어느 정도 범위에 포함되어 있는지 까지 세분화하여 알아낼 수 있다.

 

이 기술은 나아가 사회적인 문제가 되는 아동포르노를 검출하는데도 활용될 수 있다는 설명이다. 향후 국내외 기관과 긴밀히 협조하여 데이터 셋을 확보하고 이를 통해 아동포르노등을 검출하는 기술을 개발하여 공유할 예정이라고 회사 측은 밝혔다.

 

 

또한 알엔딥은 RED AI 딥페이크 검출 기술을 바탕으로 불법적으로 활용되는 페이크영상(거짓영상)까지 검출하는 기술을 함께 발표하면서 “텔레그램 내 성착취 영상을 ‘N번방’, ‘박사방’ 외에도 유명인 얼굴을 불법 영상, 이미지와 합성한 ‘딥페이크’ 영상이 유포되는 것까지 아울러 경찰의 엄중 수사가 펼쳐지고 있는 이 시점에 온라인 커뮤니케이션에서 행해지는 일련의 불법적 상황들에 원천적으로 대응할 수 있도록 기술개발을 확장하고 있다”고 강조했다.

 

어플리케이션 등을 통해 누구나 쉽게 합성할 수 있는 ‘딥페이크물’은 합성대상자가 유명인을 비롯한 일반인들까지 확대되면서, 개인적 명예훼손부터 나아가 자살로 이어질 수 있는 문제까지 심각한 사회적 문제로 대두되고 있다. 한류의 열풍이 이어지고 있는 가운데 한류스타들에 대한 페이크영상도 날이 갈수록 많아지고 있으며, 그 기술 역시 점점 정교해지고 있어 ‘딥페이크물’의 피해는 K-pop, K-드라마, K-뮤비 스타들의 정신적 피해를 비롯한 기획사의 경제적 피해까지 그 규모 역시 날로 커지고 있는 실정이다.

 

알엔딥이 개발하고 있는 딥페이크 검출 기술은 AI 딥러닝으로 구현된 기술로, 사진 및 영상 속 얼굴을 자동으로 찾아내고, 페이크 인지 아닌지를 1초내에 찾아낸다. 페이크 합성 기술이 날로 정교해 지고 있는 가운데, 알엡딥 역시 다양한 데이터 셋을 확보하고 AI기반의 학습을 시킴으로 정교한 합성을 모두 감별해 낼 수 있는 정확도 높은 기술을 구현해 내고 있다.

 

이러한 기술을 활용하면 쉽게 페이크 인지 아닌지를 찾아낼 수 있고, 페이크로 판별된 컨텐츠는 업로드/다운로드 및 SNS를 통해 전달되지 않도록 하는 기술로 활용될 수 있다고 회사 측은 강조했다.

 

English(中文·日本語) news is the result of applying Google Translate. <iN THE NEWS> is not responsible for the content of English(中文·日本語) news.

배너

김현우 기자 sapience@inthenews.co.kr

배너

KT “정부 소버린 AI정책, KT와 맞닿아…한국형 AI 개발 계속할 것”

KT “정부 소버린 AI정책, KT와 맞닿아…한국형 AI 개발 계속할 것”

2025.07.03 16:15:01

인더뉴스 이종현 기자ㅣKT가 자체 개발한 한국형 AI 거대언어모델(LLM) '믿:음 2.0'을 공개하고 정부의 독자 AI 파운데이션 모델 참여에 대한 의지를 내비쳤습니다. KT[030200]는 2023년 개발한 '믿:음1.0'에 이은 새로운 AI 모델 '믿:음 2.0'을 3일 선보이며 정부가 추진하고 있는 한국 독자 AI 파운데이션 모델에 참여하기 위해 준비하고 있다고 밝혔습니다. 신동훈 KT Gen AI 랩장은 "정부의 소버린 AI 정책은 KT의 AI 철학과 방향이 맞닿아 있다"라며 "KT는 한국적 데이터 얼라이언스와 그동안 1년여간의 노력을 거쳐 구축한 데이터들이 있어 독자 AI 파운데이션 모델을 구축하는 데 큰 강점이 될 것"이라고 말했습니다. 오승필 KT 기술혁신부문장은 "KT가 추구하는 소버린 AI는 데이터 주권 확보, 한국 언어 및 문화에 대한 지식, 다양한 AI 모델 선택권, 책임감 있는 AI 등 네 가지로 볼 수 있다"고 설명했습니다. 신동훈 랩장은 "믿음 모델은 데이터 구축부터 모델 학습 전 과정이 KT 자체 기술을 통해 이뤄졌기 때문에 소버린 AI 모델로 볼 수 있다"라며 "한국적 가치와 문화를 담아낸 믿음 모델은 독자적 AI를 구축하는 데 큰 강점이라 생각한다"고 설명했습니다. 정부의 소버린 AI 정책에 대해 신동훈 랩장은 "과제에 선정이 되고 안 되고를 떠나 KT는 한국형 AI 개발을 지속할 것"이라고 강조했습니다. 이어 "정부에 바라는 점이라면 공공 데이터에 대한 규제를 완화해 주는 것이 필요하다고 생각한다"라며 "규제에 막혀 일부 국가 공공문서 학습 못하고 있는 상황인데 국가가 통제 가능한 데이터를 어느 정도 기업이 AI 학습에 사용할 수 있도록 해주길 바란다"고 말했습니다. KT는 이날 마이크로소프트(MS)와 협업하는 AI 사업과 자체 개발하는 AI의 관계설정에 대해서는 상호 보완 관계라고 설명했습니다. 신동훈 랩장은 "믿음 개발을 멈춘 적은 없으며 한 번도 자체 AI 기술 개발을 포기해야 한다고 생각하지 않았다"라며 "KT의 자체 개발 AI가 완전한 기술로 거듭나기 전까지 MS와의 협업을 통해 부족한 기술을 보완하는 것"이라고 설명했습니다. MS와의 협업을 진행하면서도 AI 자체 개발도 병행하는 '투트랙' 전략을 택했다는 것으로 풀이됩니다. MS와의 협업 모델과 믿:음 2.0의 역할이 다를 것이라고도 설명했습니다. 고성능·복잡 업무에는 MS와의 협업 모델을, 단순 및 문서 업무에서는 믿음 모델을 활용해 상황에 따라 유연하게 사용할 수 있을 것이라는 입장입니다. 앞서 KT는 MS와의 협업 모델을 올해 2분기 상용화를 목표로 공동 개발 중이라고 밝힌 바 있습니다. 협업 모델의 출시 지연에 대해 KT는 "조만간 공개될 예정"이라며 "시기가 밀리는 이유는 내부적으로 성능을 높이기 위한 테스트 과정이 진행되고 있기 때문"이라고 설명했습니다.


배너


배너