검색창 열기 인더뉴스 부·울·경

ICT 정보통신

업스테이지, 생성형 AI 모델 글로벌 평가서 메타 다음 2위 차지

URL복사

Wednesday, July 19, 2023, 14:07:58

AI 플랫폼 허깅페이스가 운영하는 리더보드 평가
언어이해 종합능력, 환각현상 방지 등 지표서 64.7점 기록
환각현상 방지 지표에선 라마보다 3.7점 높아

 

인더뉴스 권용희 기자ㅣ업스테이지(대표 김성훈)는 글로벌 인공지능(AI) 플랫폼 허깅페이스에서 운영하는 오픈 초거대언어모델(LLM) 리더보드에서 자체 구축 AI 모델이 2위를 차지했다고 19일 밝혔습니다.

 

허깅페이스는 다양한 언어와 산업에 대한 초거대언어모델을 제공하는 글로벌 AI 플랫폼입니다. 리더보드는 모델의 추론, 상식능력 뿐 아니라 언어이해 종합능력과 환각현상 방지 등 생성 AI 평가에 필요한 4가지 지표의 평가 점수 평균으로 순위를 결정합니다 .

 

업스테이지는 이달 초 자체 구축한 모델을 허깅페이스의 리더보드에 제출해 저커버그가 공개한 '라마2' 70B 모델에 이어 평균 64.7점으로 2위를 차지했습니다.

 

업스테이지 모델은 생성AI의 가장 큰 문제점 중 하나인 환각현상 방지 지표에서 56.5점을 기록했습니다. 이는 메타의 최신 '라마2' 모델 52.8점보다 3.7점 높습니다.

 

 

업스테이지는 한국어 자연어이해(NLU) 평가 데이터셋인 '클루(KLUE)'를 직접 구축하기도 했습니다.

 

65B이하의 작은규모 LLM은 1조를 넘는 매개변수를 가진 것으로 알려진 빅테크의 초거대AI와 달리 가벼운 규모로 비용 절감효과가 크고 내부 서버에 설치및 운영이 가능하다는 특징을 갖고 있습니다.

 

업스테이지는 정보유출 없이 생성AI를 자체적으로 구축하고 싶은 기업과 기관에서 해당 AI 모델을 제공할 방침입니다. 또한 향후 한국어 데이터를 추가 학습시킬 예정입니다.

 

김성훈 업스테이지의 대표는 "이번에 입증된 업스테이지의 기술력을 바탕으로 국내 기업은 물론 전세계 모든 기업들이AI를 편리하게 사용할 수 있도록 노력할 것"이라고 말했습니다.

English(中文·日本語) news is the result of applying Google Translate. <iN THE NEWS> is not responsible for the content of English(中文·日本語) news.

배너

권용희 기자 brightman@inthenews.co.kr

배너

젠슨 황, “삼성전자 HBM, 테스트 실패 아니다”…엔비디아 탑재 가능성 시사

젠슨 황, “삼성전자 HBM, 테스트 실패 아니다”…엔비디아 탑재 가능성 시사

2024.06.05 15:20:50

인더뉴스 이종현 기자ㅣ젠슨 황 엔비디아 CEO가 삼성전자[005930]의 HBM이 미래 엔비디아 제품에 탑재될 가능성을 내비쳤습니다. 그는 삼성전자를 비롯한 업체들의 HBM을 검사중이라며 일각에서 제기된 삼성전자 HBM의 엔비디아 인증 테스트 실패설에 대해 직접 부인했습니다. 4일 블룸버그와 업계에 따르면 이날 젠슨 황은 대만 타이베이 그랜드 하이라이 호텔에서 열린 기자간담회에서 "삼성전자와 마이크론이 제공한 HBM 반도체를 검사 중"이라며 "삼성전자는 아직 어떤 인증 테스트에도 실패한 적이 없지만 더 많은 엔지니어링 작업이 필요하다"고 말했습니다. 이어서 "(테스트가) 아직 끝나지 않았을 뿐이며 인내심을 가져야 한다"고 덧붙였습니다. 그는 삼성전자 뿐 아니라 "SK하이닉스, 삼성전자, 마이크론과 협력하고 있으며 3사 모두 우리에게 메모리를 공급할 것"이라며 "엔비디아는 그들이 자격을 갖추고 우리 제조 공정에 최대한 빠르게 적용하도록 노력하고 있다"고 덧붙였습니다. 추격하는 삼성전자, 속도 올리는 SK하이닉스 삼성전자는 HBM 시장 선점을 위해 SK하이닉스[000660]와 치열하게 경쟁 중에 있습니다. 하지만 현재로써는 SK하이닉스가 2013년 업계 최초로 HBM을 개발한 이후 줄곧 '최초' 타이틀을 뺏기고 있습니다. SK하이닉스는 2013년 HBM을 최초 개발 후 2021년 4세대 HBM인 HBM3를 개발해 2022년 6월부터 엔비디아에 제품을 공급하고 있습니다. 여기에 SK하이닉스가 4세대 HBM인 HBM3마저 최초 개발하고 지난 3월 업계 최초로 5세대 HBM인 HBM3E 8단 제품을 엔비디아에 공급하기 시작하며 삼성전자는 더욱 급해졌습니다. 삼성전자는 차세대 HBM 제품을 통해 반등을 노립니다. 삼성전자는 지난 2월27일에 업계 최초로 HBM3E 12단(36GB) 개발에 성공했다고 밝힌 바 있습니다. 비록 SK하이닉스가 HBM3E 8단 제품에서 먼저 양산에 들어가 고객사 공급을 시작했지만 12단 제품으로 주도권을 탈환하겠다는 의지입니다. 실제로 삼성전자는 지난 3월 미국 캘리포니아주 새너제이에서 열린 엔비디아 주최 AI 개발자 컨퍼런스 'GTC 2024'에서 부스를 열고 HBM3E 12단 제품 실물을 전시했습니다. 해당 제품에 젠슨 황이 CEO가 직접 '젠슨 승인(JENSEN APPROVED)'이라 사인을 남기며 삼성전자가 SK하이닉스와 나란히 경쟁하는가에 대한 기대가 커졌습니다. 하지만 최근 로이터통신이 삼성전자가 엔비디아에 HBM을 납품하기 위한 테스트를 발열과 소비 전력 등의 문제로 아직 통과하지 못했다고 보도하며 적신호가 들어왔습니다. 삼성전자는 즉각 입장문을 내고 이에 대해 정면 반박한 바 있습니다. 삼성전자는 "다양한 글로벌 파트너들과 HBM 공급을 위한 테스트를 순조롭게 진행 중"이라며 인증 테스트에 대한 보도에 신중을 기해달라 당부했습니다. 하지만 젠슨 황 CEO가 해당 실패설에 대해 일축하면서 다시금 삼성전자의 HBM3E 12단 공급이 이르면 올해 하반기부터 가능할 것으로 전망됩니다. 독점보다는 경쟁 원하는 엔비디아 엔비디아는 지난 2일 대만 타이베이에서 열린 'COMPUTEX 2024'에서 차세대 AI칩 '루빈'을 공개하며 해당 제품에 6세대 HBM 제품인 HBM4를 탑재할 것이라 발표했습니다. 이어서 2027년에는 '루빈 울트라'를 양산할 것이라 발표하기도 했습니다. 루빈 울트라에는 HBM4를 12개 탑재하며 8개를 탑재하는 루빈보다 4개 많은 HBM이 들어가게 됩니다. 또한, 앞으로 GPU 신제품 출시 주기를 기존 2년에서 1년을 단축하며 "엔비디아의 리듬은 1년"이라 선언함에 따라 HBM 개발 경쟁은 더욱 치열해질 것으로 전망됩니다. 엔비디아 뿐 아니라 AMD 역시 같은 행사에서 차세대 AI 반도체 'MI325X'를 올해 4분기 출시할 것이라 발표했습니다. 업계에서는 MI325X에 삼성전자의 HBM3E 12단 제품이 탑재될 것이라 내다보고 있습니다. 이렇듯 AI 반도체 경쟁이 치열해짐에 따라 AI 반도체 제작에 필수 요소인 HBM 개발 경쟁도 덩달아 가속화되고 있습니다. 줄곧 D램 시장에서는 1위를 내려놓은 적 없는 삼성전자이지만 HBM 시장에서만큼은 후발 주자의 입장에서 경쟁 중입니다. 엔비디아는 지난 5월 삼성전자 경영진과 만나 5세대 HBM을 12단으로 만든다면 메인 벤더(공급사)의 지위를 보장하겠다고 말한 것으로 알려졌습니다. 또한, HBM을 주로 공급하는 SK하이닉스 외에도 삼성전자, 마이크론에게서도 메모리를 공급받겠다고 말했습니다. SK하이닉스만이 HBM을 독점적으로 엔비디아에 공급할 경우 엔비디아 입장에서 SK하이닉스가 가격 협상, 공급 시기 조절 등 여러 면에서 위력을 행사할 수 있는 일명 '슈퍼을'이 될 수 있기에 3사가 HBM 개발 경쟁 구도를 가져가기를 원하는 것으로 해석됩니다. 이러한 시장의 흐름상 SK하이닉스와 삼성전자 양사는 차세대 HBM 개발 경쟁에 더욱 열을 올릴 것으로 예상됩니다. HBM3E 12단 제품 개발은 삼성전자가 SK하이닉스보다 앞섰으나 SK하이닉스도 올해 2월 자사의 HBM3E 12단 제품의 샘플을 엔비디아에 전달한 것으로 파악됐습니다. 6세대 HBM 개발 경쟁에서는 양사 중 누가 웃을 것인지 업계의 이목이 집중되고 있습니다.


배너


배너