검색창 열기 인더뉴스 부·울·경

ICT 정보통신

카카오, AI 안전성 검증 위한 가드레일 모델 ‘카나나 세이프가드’ 공개

URL복사

Tuesday, May 27, 2025, 14:05:18

생성형 AI 안전성, 신뢰성 검증 가능
총 3종 모델 오픈소스로 공개

 

인더뉴스 이종현 기자ㅣ카카오[035720]는 AI 서비스의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 'Kanana Safeguard(카나나 세이프가드)'를 개발하고 국내 기업 최초로 총 3종의 모델을 오픈소스로 공개한다고 27일 밝혔습니다.

 

최근 다양한 생성형 AI 서비스들이 확산되는 가운데 유해 콘텐츠의 위험성에 대한 사회적 우려가 증대됨에 따라 카카오는 기술적·제도적 장치인 AI 가드레일 시스템 마련에 대한 필요성을 인식하고 'Kanana Safeguard' 모델을 개발하게 됐다고 설명했습니다.

 

카나나 세이프가드는 카카오가 자체 개발한 언어모델 '카나나'를 기반 기술로 활용했으며 한국어 및 한국 문화를 반영한 자체 구축 데이터셋을 활용해 한국어에 특화된 성능을 보유하고 있습니다. AI 모델의 정밀도와 재현율을 평가하는 수치인 F1 스코어(F1-Score)를 기준으로 평가한 결과, 한국어 성능에서 글로벌 모델 이상의 성과를 기록했습니다.

 

이번에 오픈소스로 공개한 모델은 총 3가지로 각각의 모델은 리스크 유형에 따라 유해성 및 위험성에 대한 효과적 탐지가 가능합니다. ▲사용자의 발화 또는 AI의 답변에서 증오, 괴롭힘, 성적 콘텐츠 등에 대한 유해성을 탐지하는 'Kanana Safeguard' ▲개인 정보나 지식재산권 등  법적 측면에서 주의가 필요한 요청을 탐지하는 'Kanana Safeguard-Siren' ▲AI 서비스를 악용하려는 사용자의 공격을 탐지하는 'Kanana Safeguard-Prompt'이며 모두 허깅페이스(Hugging Face)를 통해 다운로드할 수 있습니다.

 

카카오는 안전한 AI 생태계의 구축에 기여하고자 카나나 세이프가드에 상업적 이용과 수정 및 재배포 등이 자유롭게 가능한 아파치2.0(Apache 2.0) 라이선스를 적용했습니다. 향후 지속적인 업데이트를 통해 모델을 고도화할 예정입니다.

 

김경훈 카카오 AI Safety 리더는 "생성형 AI의 등장 이래, 기술의 발전과 더불어 AI 윤리와 안전성에 대한 중요성이 국내외에서 점차 부각되고 있다"며 "책임감 있는 AI 구축에 대한 인식을 널리 확산시키고 사회적 가치를 고려한 기술 개발이 이어질 수 있도록 선제적인 대응을 이어갈 계획이다"고 말했습니다.

English(中文·日本語) news is the result of applying Google Translate. <iN THE NEWS> is not responsible for the content of English(中文·日本語) news.

배너

이종현 기자 flopig2001@inthenews.co.kr

배너

바이오뉴트리온, AI 코칭 기반 디지털 헬스케어 상용화 성과 발표

바이오뉴트리온, AI 코칭 기반 디지털 헬스케어 상용화 성과 발표

2025.10.20 10:51:29

인더뉴스 문정태 기자ㅣ‘효과적으로 체중을 감량하고 유지하며, 이를 기반으로 질병을 예방한다.’ 바이오뉴트리온(대표 김주영)은 지난 15~17일 서울 코엑스에서 열린 ‘BIOPLUS-INTERPHEX KOREA 2025’에서 ‘디지털헬스케어 서비스 상용화 촉진 지원사업’의 추진 성과를 발표했습니다. 이번 결과 발표에서는 검진 이후 끊기기 쉬운 체중·대사 건강 관리의 연속성을 높이기 위한 B2C 상용화 패키지와 실사용 근거(Real-World Evidence, RWE), 향후 협력 전략이 공개됐습니다. 바이오뉴트리온은 과제 기간 동안 AI 코칭 앱 ‘닥터코치 3.5(이하 닥터코치)’를 중심으로 서비스를 운영했습니다. ‘앱 코칭+식이대체제 패키지’를 통합 상품화하고 ‘가입–설정–실천–리포트’로 이어지는 사용자 여정을 재설계해 접근성을 높였습니다. 또한 건강검진 데이터와 생활 데이터를 연동해 개인 맞춤형 피드백을 제공하며, 대사 건강 관리의 실사용 근거를 축적했는데요. 전시 부스에서는 ‘닥터코치’ 서비스와 의사 설계 식이대체제의 통합 운영을 선보였습니다. 닥터코치는 개인의 건강 데이터를 기반으로 AI가 식단을 분석해 인사이트를 제공합니다. 임상영양사가 ACT 원칙에 따라 주간 실천 과제와 행동 체크리스트, 종합 건강 리포트를 발송하는 등 ‘식이대체제–AI 코칭–리포트’가 하나의 통합 프로토콜로 작동하도록 고도화됐습니다. 김주영 바이오뉴트리온 대표는 협회 세션 발표에서 ‘대사 건강 증진을 위한 AI 맞춤형 디지털 헬스케어’를 주제로, B2C 구독 운영 경험과 실사용근거 수집 방식, 기관 도입 프레임 및 보험 연계 협력 모델 등을 공유했습니다. 김 대표는 데이터 보안 기술을 접목해 사용자의 건강 데이터 주권을 강화하고, 신뢰성과 글로벌 확장성을 동시에 확보하겠다는 계획을 밝혔는데요. 내년에 B2C 구독 모델의 정식 론칭 범위를 확대하고, 검진센터·기업 건강관리 프로그램 및 보험 기반 헬스케어 모델을 순차적으로 도입할 계획입니다. 중장기적으로는 EMR 연동형 환자관리 서비스와 글로벌 파트너십을 확대하고, RWE 기반 AI 알고리즘 고도화를 통해 ‘감량–유지–예방’으로 이어지는 전주기 관리 표준을 정착시킨다는 목표입니다. 또한 오는 2030년까지 AI 기반 디지털 대사질환 치료기기 상용화를 목표로 연구 개발을 이어갈 방침입니다. 김주영 바이오뉴트리온 대표는 “이번 성과 발표는 AI 기술과 실사용 근거(RWE)를 기반으로 한 디지털 헬스케어의 실질적 가능성을 보여준 자리였다”며 “앞으로 개인 맞춤형 코칭을 통해 건강관리의 일상화를 이끌고, 글로벌 시장에서도 통할 수 있는 헬스케어 서비스를 만들겠다”고 말했습니다.




배너