검색창 열기 인더뉴스 부·울·경

ICT 정보통신

카카오, AI 안전성 검증 위한 가드레일 모델 ‘카나나 세이프가드’ 공개

URL복사

Tuesday, May 27, 2025, 14:05:18

생성형 AI 안전성, 신뢰성 검증 가능
총 3종 모델 오픈소스로 공개

 

인더뉴스 이종현 기자ㅣ카카오[035720]는 AI 서비스의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 'Kanana Safeguard(카나나 세이프가드)'를 개발하고 국내 기업 최초로 총 3종의 모델을 오픈소스로 공개한다고 27일 밝혔습니다.

 

최근 다양한 생성형 AI 서비스들이 확산되는 가운데 유해 콘텐츠의 위험성에 대한 사회적 우려가 증대됨에 따라 카카오는 기술적·제도적 장치인 AI 가드레일 시스템 마련에 대한 필요성을 인식하고 'Kanana Safeguard' 모델을 개발하게 됐다고 설명했습니다.

 

카나나 세이프가드는 카카오가 자체 개발한 언어모델 '카나나'를 기반 기술로 활용했으며 한국어 및 한국 문화를 반영한 자체 구축 데이터셋을 활용해 한국어에 특화된 성능을 보유하고 있습니다. AI 모델의 정밀도와 재현율을 평가하는 수치인 F1 스코어(F1-Score)를 기준으로 평가한 결과, 한국어 성능에서 글로벌 모델 이상의 성과를 기록했습니다.

 

이번에 오픈소스로 공개한 모델은 총 3가지로 각각의 모델은 리스크 유형에 따라 유해성 및 위험성에 대한 효과적 탐지가 가능합니다. ▲사용자의 발화 또는 AI의 답변에서 증오, 괴롭힘, 성적 콘텐츠 등에 대한 유해성을 탐지하는 'Kanana Safeguard' ▲개인 정보나 지식재산권 등  법적 측면에서 주의가 필요한 요청을 탐지하는 'Kanana Safeguard-Siren' ▲AI 서비스를 악용하려는 사용자의 공격을 탐지하는 'Kanana Safeguard-Prompt'이며 모두 허깅페이스(Hugging Face)를 통해 다운로드할 수 있습니다.

 

카카오는 안전한 AI 생태계의 구축에 기여하고자 카나나 세이프가드에 상업적 이용과 수정 및 재배포 등이 자유롭게 가능한 아파치2.0(Apache 2.0) 라이선스를 적용했습니다. 향후 지속적인 업데이트를 통해 모델을 고도화할 예정입니다.

 

김경훈 카카오 AI Safety 리더는 "생성형 AI의 등장 이래, 기술의 발전과 더불어 AI 윤리와 안전성에 대한 중요성이 국내외에서 점차 부각되고 있다"며 "책임감 있는 AI 구축에 대한 인식을 널리 확산시키고 사회적 가치를 고려한 기술 개발이 이어질 수 있도록 선제적인 대응을 이어갈 계획이다"고 말했습니다.

English(中文·日本語) news is the result of applying Google Translate. <iN THE NEWS> is not responsible for the content of English(中文·日本語) news.

배너

이종현 기자 flopig2001@inthenews.co.kr

배너

LG에너지솔루션, 벤츠에 ‘전기차 150만대 물량’ 배터리 계약 성사

LG에너지솔루션, 벤츠에 ‘전기차 150만대 물량’ 배터리 계약 성사

2025.09.03 16:28:05

인더뉴스 김용운 기자ㅣLG에너지솔루션[373220]이 독일의 메르세데스-벤츠(Mercedes-Benz)에 100GWh(기가와트시)가 넘는 대규모 배터리 공급계약에 성공했습니다. LG에너지솔루션은 메르세데스 벤츠와 전기차 배터리 공급계약 2건을 체결했다고 3일 공시했습니다. 첫 번째 계약의 공급 지역은 미국으로, 벤츠 계열사에 오는 2029년 7월부터 2037년 12월까지 75GWh 규모로 배터리를 공급합니다. 다른 하나는 오는 2028년 8월부터 2035년 12월까지 유럽에 총 32GWh 규모로 배터리를 공급하는 계약입니다. 두 건을 합치면 총 107GWh 규모의 대규모 물량으로 전기차 150만대에 공급할 수 있는 규모입니다. LG에너지솔루션은 경영상 비밀 유지를 이유로 계약 금액과 구체적인 배터리 종류, 수주 배경 등을 공개하지 않았지만 배터리 업계에서는 LG에너지솔루션의 46시리즈(원통형) 배터리가 채택된 것으로 추정하고 있습니다. 46시리즈 배터리 가격이 1kWh당 100달러 선에 형성돼 있는만큼 수주 금액은 약 15조원(107억 달러)에 달할 것으로 추산하고 있습니다. LG에너지솔루션은 작년 10월에 벤츠와 50.5GWh 규모의 전기차 배터리 계약을 체결하며 배터리 시장에서 주목을 받았습니다. 업계에서는 LG에너지솔루션의 이번 계약이 중국 배터리 업계를 제치고 사실상 벤츠의 주요 파트너사 지위를 공고히 했다는 평가입니다. 특히 글로벌 자동차 시장에서 메르세데스 벤츠의 브랜드 파워를 고려하면 향후 전기차 배터리 시장에서 LG에너지솔루션이 중국의 배터리 기업들과의 경쟁에서 우위를 점했다는 분석입니다. 차세대 원통형 배터리로 불리는 46시리즈는 지름 46㎜, 높이 80~120㎜로 이뤄진 제품입니다. 기존 2170 제품과 비교해 에너지 및 출력이 최소 5배 이상 높고, 공간 효율성이 뛰어난 것이 장점입니다. LG에너지솔루션이 벤츠와 배터리 대규모 계약에 성공한 배경에는 제품의 경쟁력도 있지만 미국과 중국과의 무역전쟁 및 미국의 관세 강화에 따른 정책 변화에 LG에너지솔루션이 발 빠르게 대응한 것도 크게 작용했다는 평가입니다. 실제로 LG에너지솔루션은 미국 애리조나에 36GWh 규모의 원통형 전용 생산 공장을 건설 중에 있으며 내년부터 46시리즈 본격 양산을 시작할 계획입니다. 유럽에는 폴란드 브로츠와프 공장에서 46시리즈 원통형 배터리를 생산할 확률도 높습니다. LG에너지솔루션은 이번 공시에 대해 "고객사와 협의에 따라 공시 내용 외 추가적인 내용은 확인해줄 수 없다”고 밝혔습니다.




배너