검색창 열기 인더뉴스 부·울·경

ICT 정보통신

카카오, AI 안전성 검증 위한 가드레일 모델 ‘카나나 세이프가드’ 공개

URL복사

Tuesday, May 27, 2025, 14:05:18

생성형 AI 안전성, 신뢰성 검증 가능
총 3종 모델 오픈소스로 공개

 

인더뉴스 이종현 기자ㅣ카카오[035720]는 AI 서비스의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 'Kanana Safeguard(카나나 세이프가드)'를 개발하고 국내 기업 최초로 총 3종의 모델을 오픈소스로 공개한다고 27일 밝혔습니다.

 

최근 다양한 생성형 AI 서비스들이 확산되는 가운데 유해 콘텐츠의 위험성에 대한 사회적 우려가 증대됨에 따라 카카오는 기술적·제도적 장치인 AI 가드레일 시스템 마련에 대한 필요성을 인식하고 'Kanana Safeguard' 모델을 개발하게 됐다고 설명했습니다.

 

카나나 세이프가드는 카카오가 자체 개발한 언어모델 '카나나'를 기반 기술로 활용했으며 한국어 및 한국 문화를 반영한 자체 구축 데이터셋을 활용해 한국어에 특화된 성능을 보유하고 있습니다. AI 모델의 정밀도와 재현율을 평가하는 수치인 F1 스코어(F1-Score)를 기준으로 평가한 결과, 한국어 성능에서 글로벌 모델 이상의 성과를 기록했습니다.

 

이번에 오픈소스로 공개한 모델은 총 3가지로 각각의 모델은 리스크 유형에 따라 유해성 및 위험성에 대한 효과적 탐지가 가능합니다. ▲사용자의 발화 또는 AI의 답변에서 증오, 괴롭힘, 성적 콘텐츠 등에 대한 유해성을 탐지하는 'Kanana Safeguard' ▲개인 정보나 지식재산권 등  법적 측면에서 주의가 필요한 요청을 탐지하는 'Kanana Safeguard-Siren' ▲AI 서비스를 악용하려는 사용자의 공격을 탐지하는 'Kanana Safeguard-Prompt'이며 모두 허깅페이스(Hugging Face)를 통해 다운로드할 수 있습니다.

 

카카오는 안전한 AI 생태계의 구축에 기여하고자 카나나 세이프가드에 상업적 이용과 수정 및 재배포 등이 자유롭게 가능한 아파치2.0(Apache 2.0) 라이선스를 적용했습니다. 향후 지속적인 업데이트를 통해 모델을 고도화할 예정입니다.

 

김경훈 카카오 AI Safety 리더는 "생성형 AI의 등장 이래, 기술의 발전과 더불어 AI 윤리와 안전성에 대한 중요성이 국내외에서 점차 부각되고 있다"며 "책임감 있는 AI 구축에 대한 인식을 널리 확산시키고 사회적 가치를 고려한 기술 개발이 이어질 수 있도록 선제적인 대응을 이어갈 계획이다"고 말했습니다.

English(中文·日本語) news is the result of applying Google Translate. <iN THE NEWS> is not responsible for the content of English(中文·日本語) news.

배너

이종현 기자 flopig2001@inthenews.co.kr

배너

신동빈 롯데 회장 “10년 뒤 내다보고 지금 실행…변화 외면은 위험”

신동빈 롯데 회장 “10년 뒤 내다보고 지금 실행…변화 외면은 위험”

2025.07.17 15:17:20

인더뉴스 문정태 기자ㅣ“변화하지 않는 것이 가장 큰 리스크다.” 17일 롯데에 따르면 신동빈 롯데그룹 회장이 하반기 경영 전략을 공유하는 ‘2025년 하반기 VCM(Value Creation Meeting)’에서 핵심사업의 본원적 경쟁력 회복을 거듭 역설했습니다. 이와 함께, 장기적 관점에서 전략을 수립하고 이를 신속히 실행해야 한다고 강조했습니다. 이번 VCM은 처음으로 1박 2일간 진행됐는데요. 신동빈 회장은 회의 내내 냉정한 실적 평가와 함께 무거운 분위기 속에서 그룹의 경영 기조를 재점검했습니다. 특히 올해 상반기 실적을 언급하며, “향후 그룹의 생존을 위해 CEO들이 “더욱 무거운 책임감을 갖고 핵심사업 경쟁력 회복에 집중해 달라”고 당부했습니다. 신 회장은 PEST(정치·경제·사회·기술) 관점에서의 경영 인식과 장기적 예측의 중요성을 거론하며 “문제를 인식하지 못하거나 외면하는 것이 가장 치명적”이라고 지적했습니다. 이어 그는 “CEO라면 5년, 10년 뒤의 경영환경을 예측하고, 현재와 3년 뒤 해야 할 일을 설계해야 한다”며 “이와 함께 전략 실행을 뒷받침할 인재 확보와 기술 투자도 병행해 달라”고 주문했습니다. 그룹 차원의 하반기 경영 방침으로는 ▲브랜드 가치 제고 ▲사업군별 전략 추진 가속화 ▲생산성 향상을 제시했습니다. 신동빈 회장은 “브랜드는 롯데의 경쟁력 그 자체”라며 “식품과 화학, 유통 등 각 사업군이 자체 브랜드 강화에 힘써야 한다”고 강조했습니다. 화학군은 체질 개선, 식품군은 핵심 제품 강화, 유통군은 고객 니즈에 대한 다각적 대응을 지시했습니다. 생산성과 관련해선 직무 전문성 강화와 성과 중심 인사체계의 정착을 언급했습니다. 아울러 AI 등 기술을 통해 업무 효율성을 높이고, 도전하는 조직문화를 만들어야 한다고 강조했습니다. 신동빈 회장은 “경영환경은 끊임없이 변화하며, 그 속에서 리스크와 기회가 동시에 생겨난다”며 “이를 선제적으로 관리해야 한다”며 “시도조차 하지 않는 것은 실패와 같다. 본업 안에서 끊임없이 혁신해야 한다”고 당부했습니다.


배너


배너