검색창 열기 인더뉴스 부·울·경

Electronics 전기/전자

SK하이닉스, LLM 특화 가속기 카드 ‘AimX’ 시제품 공개

URL복사

Monday, September 18, 2023, 10:09:02

‘AI 하드웨어&엣지 AI 서밋 2023’서 공개
메모리 반도체에 연산 기능 더해져
“GPU 대비 속도 10배 이상, 전력 소모 5분의 1 수준”

 

인더뉴스 권용희 기자ㅣSK하이닉스[000660]는 지난 12일(미국시간)부터 사흘간 미국 캘리포니아주에서 열린 'AI 하드웨어&엣지 AI 서밋 2023'에서 GDDR6-AiM 기반 생성형 인공지능(AI) 가속기 카드 AiMX 시제품을 최초 공개했다고 18일 밝혔습니다.

 

AI 서밋은 영국 마케팅 기업 키사코 리서치가 주최하는 연례 행사로, 글로벌 IT 기업과 유명 스타트업이 참가해 인공지능과 머신러닝 개발 성과를 공유하는 자리입니다.

 

SK하이닉스는 이번 서밋에서 '인공지능 성능을 가속하는 SK하이닉스의 PIM 반도체 AiM'이라는 슬로건을 걸고, GDDR6-AiM과 이 제품을 여러개 연결해 성능을 한층 개선한 가속기 카드 AiMX 시제품을 선보였습니다.

 

 

AiMX는 메모리 반도체에 연산 기능을 더한 'GDDR6-AiM'칩을 사용해 대규모 언어 모델(LLM)에 특화된 가속기 카드 제품입니다. 생성형 AI는 대량의 데이터를 다루면서 저전력, 고속으로 작동하는 메모리를 필요로 합니다.

 

SK하이닉스는 메타(Meta)의 생성형 AI인 'OPT 13B' 모델을 AiMX 시제품을 탑재한 서버 시스템에서 시연했습니다.

 

SK하이닉스는 "GDDR6-AiM 칩을 탑재한 AiMX 시스템은 GPU를 탑재한 시스템 대비 반응 속도는 10배 이상 빠르지만, 전력 소모는 5분의 1 수준"이라고 밝혔습니다.

 

임의철 SK하이닉스 메모리솔루션담당(부사장)은 "SK하이닉스의 AiMX는 기존 GPU를 쓸 때보다 고성능, 저전력에 비용도 절감할 수 있는 솔루션"이라며 "앞으로도 당사는 인공지능 시대를 이끌어갈 메모리 기술 개발을 이어나갈 것"이라고 말했습니다.

English(中文·日本語) news is the result of applying Google Translate. <iN THE NEWS> is not responsible for the content of English(中文·日本語) news.

배너

권용희 기자 brightman@inthenews.co.kr

배너

SKT, AI기술 ICT에서 리테일까지 적용하는 광폭 행보

SKT, AI기술 ICT에서 리테일까지 적용하는 광폭 행보

2024.09.09 16:50:39

인더뉴스 이종현 기자ㅣSK텔레콤이 AI(인공지능) 기술을 활용한 사업영역을 ICT에서 리테일 시장으로까지 확대하는 광폭의 행보를 보이고 있습니다. SK텔레콤은 SPC그룹과 서울 을지로 SKT타워에서 AI 기술 기반으로 전방위 협력을 강화하는 전략적 업무협약(MOU)을 체결했다고 9일 밝혔습니다. 양사는 이번 MOU를 통해 AI 기술을 활용한 혁신적인 제휴 서비스와 솔루션으로 차별화한 가치를 제공하고 핵심 경쟁력을 강화해 리테일 시장의 혁신을 선도할 계획이라고 설명했습니다. 구체적으로 ▲AI 기술을 활용한 서비스 및 사업·제휴 협력 ▲리테일 매장 대상 B2B 솔루션 상품 개발 ▲마케팅 제휴 및 멤버십 앱 사용 편의성 개선 ▲공동 사업 발굴을 위한 TF 구성 등 네 가지 분야에서 협력을 추진할 예정입니다. 먼저 AI 에이전트 기반의 서비스 연동 추진을 통해 고객 상호 작용을 강화합니다. SPC의 해피포인트 앱이 제공하는 다양한 상품 및 매장 정보와 보유 포인트 현황 등을 대화 기반의 자연어로 확인하고, 장기적으로는 고객 니즈에 기반한 맞춤형 상품 추천 등 개인화 쇼핑 경험을 강화해 갈 예정입니다. SKT는 외부 협력을 통한 AI 생태계 확장을 목적으로 최근 AI 개인비서 서비스인 에이닷(A.)의 개편을 단행했습니다. 통합 제공하던 AI 기능을 각 영역별 특화 에이전트로 분리했고, 이번 SPC와 협력을 통한 리테일 시장 적용도 에이닷 개편에 따른 전략적 선택에 따른 것입니다. 리테일 매장 대상 B2B 사업 협력도 본격화합니다. SPC그룹의 프랜차이즈 매장 운영 노하우와 SKT의 B2B 인프라를 결합해 ▲고객 행동 데이터 분석기반 점포관리 솔루션 ▲AI 기반의 재고관리 솔루션 ▲스마트 리테일 시스템 등이 포함된 FaaS (Franchise as a service) 솔루션 개발을 추진합니다. 이와 함께 SK브로드밴드와 협력해 SPC 프랜차이즈와 소상공인 매장 대상 전용 결합상품을 출시하는 등 사업 확장에도 나설 계획입니다. 별도 운영 중인 양사의 멤버십 서비스인 T멤버십과 해피포인트를 연동해 고객에게 강화된 혜택을 제공하고 AI를 활용한 개인화 경험을 확장하는 방안도 추진됩니다. T멤버십 앱 내 바코드를 통해 해피포인트를 함께 적립하거나, 해피포인트 앱 내 ‘해피오더’에서 상품 구매시 T멤버십 할인 또는 적립을 동시에 제공하는 등 고객 편의를 높입니다. 또 AI 기반 미사용 쿠폰 리마인더 기능 등 고객이 체감할 수 있는 새로운 경험도 제공해 멤버십 고객들의 만족도를 높인다는 계획입니다. SKT 유영상 CEO는 “이번 협력은 각 분야의 1등 사업자 간 시너지를 통해 성공적 AI 전환을 이뤄내는 의미 있는 사례가 될 것이다”며 “에이닷을 포함한 SKT의 앞선 AI 기술과 서비스 적용을 통한 생태계 확대로 고객들에게 한층 더 진화된 AI 경험을 제공할 예정이다”고 말했습니다. SPC그룹 허희수 부사장은 “각 사업 분야의 선도 기업인 SPC그룹과 SKT가 보유한 역량과 노하우를 통해 고객에게 더욱 혁신적이고 차별화된 경험을 제공할 수 있을 것이다”며 “앞으로도 SPC그룹은 AI를 비롯한 혁신적인 ICT 기술을 사업에 적극 도입해 F&B업계의 미래 트렌드를 선도해 나가겠다”고 말했습니다.


배너


배너