검색창 열기 인더뉴스 부·울·경

ICT 정보통신

SKT, GPU 효율 극대화하는 ‘AI 클라우드 매니저’ 출시

URL복사

Tuesday, October 08, 2024, 10:10:10

대규모 GPU 클러스터 자원 효율적 활용
하나금융티아이 GPU 클러스터 구축에 적용

 

인더뉴스 이종현 기자ㅣSK텔레콤[017670]은 AI(인공지능) 인프라 자원을 최적화하고 개발 환경을 통합 관리할 수 있는 AI 기반 B2B 솔루션 ‘SKT 엔터프라이즈 AI 클라우드 매니저’를 출시했다고 8일 밝혔습니다.

 

‘AI클라우드 매니저’는 SKT 가 보유한 대규모 GPU(그래픽처리장치) 자원에 대한 관리 및 운영 노하우를 상용화한 제품으로, AI 잡(Job) 스케줄러 기반의 GPU 클러스터 특화 솔루션입니다. 기업 고객이 보유한 수많은 GPU 자원을 마치 한 대의 컴퓨터처럼 관리해 GPU 성능을 극대화하고, AI 개발을 위한 학습 소요 시간을 단축할 수 있습니다.

 

이 제품은 SK텔레콤이 지난달 하나금융티아이와 구축한 대규모 GPU 클러스터에서 GPU 효율 극대화에 활용됐습니다.

 

SKT는 대규모 데이터 학습에 GPU 자원이 많이 소모되기 때문에 AI 자원 최적화는 AI 클라우드 솔루션에 꼭 필요한 기능이라고 설명했습니다. AI 자원 최적화는 프로젝트마다 GPU 사용량 및 성능을 실시간으로 모니터링하고, 사용하지 않는 GPU를 감지해 다른 프로젝트에 재분배하는 역할을 합니다. 또 처리 우선 순위가 높은 프로젝트에 클라우드 자원을 먼저 할당하는 등 자원 효율성도 높입니다.

 

‘AI 클라우드 매니저’는 개발 과정에서 고객이 활용하기 쉬운 기능을 제공하고, 모든 과정이 유기적으로 연계될 수 있는 환경을 제공합니다. 모델 학습 과정에서는 대규모 데이터를 다수의 컴퓨터에 분산 처리하는 대규모 병렬 학습 환경을 제공해 학습 속도를 높인다고 회사 측은 설명했습니다.

 

소프트웨어를 설치할 필요 없이 ‘웹 브라우저(Web UI)’ 기반으로 사용할 수 있고, 다수의 개발자가 동시에 같은 AI 개발 프로젝트에 접근할 수 있는 협업 환경을 갖췄습니다.

 

또 AI 추론에서는 프로젝트나 비용에 최적화된 GPU 종류와 추론 엔진 조합을 사용자가 선택할 수 있도록 하고, 검색 증강 생성(RAG) 기술로 과거 자료를 최신 정보처럼 인식하며 나타나는 ‘환각 현상(할루시네이션)’을 최소화했습니다.

 

김명국 SKT Cloud CO0담당은 ”이번 제품 출시로 AI 서비스 도입을 준비하는 기업들이 GPU 자원의 성능을 극대화하고 AI 서비스를 효과적으로 개발할 수 있게 됐다”며 “향후 AI 데이터센터와 GPU 서버를 안정적으로 공급하고 이를 관리하는 필수 솔루션들도 함께 제공해 AI 데이터센터 솔루션 사업 분야를 선도할 것이다”고 말했습니다.

English(中文·日本語) news is the result of applying Google Translate. <iN THE NEWS> is not responsible for the content of English(中文·日本語) news.

배너

이종현 기자 flopig2001@inthenews.co.kr

배너

[C-레벨 터치] 김상현 롯데유통군 부회장 “글로벌 확장·AI 혁신서 기회 모색”

[C-레벨 터치] 김상현 롯데유통군 부회장 “글로벌 확장·AI 혁신서 기회 모색”

2025.06.05 09:44:20

인더뉴스 장승윤 기자ㅣ롯데는 김상현 롯데 유통군 총괄대표 부회장이 지난 3일 싱가포르에서 열린 ‘NRF Big Show APAC 2025’에 참석해 롯데 유통군의 혁신과 글로벌 진출 사례를 공유했다고 5일 밝혔습니다. 전미소매연맹(NRF)이 개최하는 ‘NRF Big Show’는 ‘유통 산업의 CES’라 불리는 세계 최대 유통 박람회로 매년 1월 미국에서 열립니다. ‘NRF Big Show APAC’은 지난해 아시아·태평양 지역을 중심으로 싱가포르에서 처음 개최돼 40개국 7000여명 이상의 참관객들에게 글로벌 유통 산업 트렌드를 공유했습니다. 올해 ‘NRF Big Show APAC 2025’는 아시아·태평양 유통업계 CEO와 리더, 유통 전문가 등 약 1만명이 참석해 ‘유통업의 무한한 가능성’이라는 주제로 진행됐습니다. 이날 김상현 부회장은 ‘롯데의 유통 혁신’이라는 주제로 싱가포르 최대 유통기업 페어프라이스 그룹 CEO 비풀 차울라와 대담을 진행했습니다. 이날 김 부회장은 "롯데 유통군은 고객 경험 중심의 차별화된 유통 플랫폼 구축을 지속해가고 있다"며 "롯데몰 웨스트레이크 하노이는 고객 경험을 지속적으로 향상시키기 위한 노력이 단순한 판매를 넘어, 고객과 문화를 연결하는 플랫폼으로 유통업이 진화하고 있음을 보여준다"고 말했습니다. 롯데몰 웨스트레이크 하노이는 쇼핑·문화·체험·프리미엄 요소가 결합된 복합몰로 2023년 개점 이후 9개월 만에 누적 매출 2000억원, 354일 만에 누적 방문객 1000만명을 넘어섰습니다. 올해 1분기에는 전년 대비 매출이 21.9% 증가하고 개점 6분기 만에 영업이익 흑자 전환을 달성했습니다. 김 부회장은 현재 한국 유통 시장이 경제 불확실성과 고령화라는 구조적 과제에 직면해 있지만 글로벌 사업 확장과 AI 기반 혁신에서 새로운 기회를 모색하고 있다고 설명했습니다. 그는 "K푸드, K뷰티, K패션 등 한국 콘텐츠가 세계적으로 주목받는 가운데 페어프라이스와 협업해 롯데마트 익스프레스를 오픈하고 PB 상품을 현지에 적극적으로 소개하고 있다"며 "현지 파트너십을 통해 PB 수출을 가속화할 계획이며 이 협업 모델을 다양한 시장으로 확대할 것"이라고 전했습니다. 롯데는 현재 부산에 오카도와 협업한 AI 기반 고객 풀필먼트 센터(CFC)를 구축하고 있습니다. 이를 통해 AI 기반 초개인화 추천과 물류 자동화 역량을 강화하겠다는 심산입니다. 또 김 부회장은 "유통업은 고객의 시간과 경험에 가치를 제공할 수 있어야 한다"며 "고객이 원하는 환경을 만들고 쇼핑을 즐거운 경험으로 만드는 것이 가장 중요한 과제"라고 강조했습니다. 이어 전시회장을 찾은 유통업계 관계자들에게 "현장을 찾아 직원들과 고객들의 목소리를 직접 듣고 끊임없이 배우는 자세가 중요하다"며 "앞으로도 고객 중심 경영을 강화하고 기술과 데이터 기반 혁신을 지속하며 글로벌 시장에서 롯데 유통군의 경쟁력을 한층 끌어올릴 것"이라는 말로 마무리했습니다.


배너


배너