검색창 열기 인더뉴스 부·울·경

Electronics 전기/전자 Global 글로벌

엔비디아, AWS에 ‘블랙웰’ 제공…“전례 없는 슈퍼컴퓨터 만들 것”

URL복사

Thursday, March 21, 2024, 13:03:59

슈퍼컴퓨터 구축 프로젝트 '세이바'에 활용
대규모 생성형 AI 훈련과 추론 가속화
블랙웰 암호화와 통합해 AI 애플리케이션 보안 강화

 

인더뉴스 이종현 기자ㅣ엔비디아가 GTC 2024에서 공개한 자사의 블랙웰(Blackwell) GPU 플랫폼을 아마존닷컴의 자회사인 아마존웹서비스(이하 AWS)에 제공한다고 21일 발표했습니다.

 

AWS는 5세대 엔비디아 NV링크로 상호 연결된 72개의 블랙웰 GPU와 36개의 그레이스 CPU로 구성된 GB200 NVL72를 갖춘 엔비디아 블랙웰 플랫폼을 제공할 예정입니다. 또한, 대규모 생성형 AI 훈련과 추론을 가속화하는 EC2 울트라클러스터에 배치된 새로운 B100 GPU를 탑재한 EC2 인스턴스도 제공할 계획입니다.

 

엔비디아와 AWS의 협력은 엔비디아 NIM 추론 마이크로서비스와 아마존 세이지메이커(SageMaker)를 통합함으로써 고성능, 저비용의 생성형 AI를 위한 추론 서비스를 제공합니다. 사용자는 이 서비스를 사용해 미리 컴파일되고 엔비디아 GPU에서 실행되도록 최적화된 기능모듈을 세이지메이커에 신속하게 배포해 생성형AI 애플리케이션의 출시 기간을 단축할 수 있습니다.

 

AWS 리인벤트(re:Invent) 2023에서 발표된 프로젝트 세이바(Project Ceiba)는 세계에서 가장 빠른 AI 슈퍼컴퓨터를 구축하기 위해 엔비디아와 AWS가 협력하는 프로젝트입니다. 20736개의 B200 GPU를 사용하는 해당 프로젝트의 슈퍼컴퓨터는 새로운 엔비디아 GB200 NVL72시스템을 기반으로 구축되며 엔비디아의 자체 연구 개발에 사용됩니다.

 

세이바는 4세대 EFA 네트워킹을 통해 확장되고 슈퍼칩당 최대 800Gbps의 저지연, 고대역폭 네트워킹 처리량을 제공해 414 엑사플롭의 대규모 AI를 처리할 수 있습니다. 엔비디아의 이전 세대 GPU 아키텍처인 호퍼(Hopper) 아키텍처를 기반으로 구축하려고 했던 초기 계획에 비해 6배나 향상된 성능을 제공하게 됩니다.

 

보안 기능 역시 확보될 예정입니다. AWS AI 인프라와 서비스에는 고객이 데이터를 제어하고 제3자 모델 제공업체와 공유되지 않게 만드는 보안 기능이 마련돼 있습니다. AWS 니트로 시스템과 엔비디아 GB200의 결합은 권한이 없는 개인이 모델 가중치에 액세스하는 것을 방지함으로써 AI 보안을 한층 더 강화합니다.

 

젠슨 황(Jensen Huang) 엔비디아 CEO는 "AI는 전례 없는 속도로 혁신을 주도하며 산업 전반에 걸쳐 새로운 애플리케이션, 비즈니스 모델 및 혁신을 이끌고 있다. AWS와의 협력을 통해 새로운 세대의 AI 기능을 가속화하고 고객에게 전례 없는 컴퓨팅 성능을 제공해 가능성의 범위를 넓혀가고 있다"고 말했습니다.

English(中文·日本語) news is the result of applying Google Translate. <iN THE NEWS> is not responsible for the content of English(中文·日本語) news.

배너

이종현 기자 flopig2001@inthenews.co.kr

배너

SK-오픈AI, 메모리·AI DC 초대형 합작…K-AI 구축 가속화

SK-오픈AI, 메모리·AI DC 초대형 합작…K-AI 구축 가속화

2025.10.01 20:20:20

인더뉴스 이종현 기자ㅣSK그룹이 오픈AI와 메모리반도체 공급과 서남권 인공지능(AI) 데이터센터(DC) 설립·운영 등에 관한 파트너십을 맺고 글로벌 AI 인프라 구축에 본격 참여합니다. 반도체 공급부터 데이터센터 설계·운영, AI 서비스 확산까지 아우르는 전방위 협력을 통해 차세대 AI 인프라 혁신을 이끈다는 전략입니다. SK그룹은 최태원 회장과 샘 올트먼 오픈AI 최고경영자(CEO) 등 양사 경영진들이 1일 서울 종로구 SK서린빌딩에서 만나 메모리 공급 의향서(LOI)와 서남권 AI DC 협력에 관한 양해각서(MOU)를 체결했다고 밝혔습니다. 최태원 회장은 이번 협력에 대해 “글로벌 AI 인프라 구축을 위한 스타게이트 프로젝트에 SK가 핵심 파트너로 참여하게 됐다”며 “메모리반도체부터 데이터센터까지 아우르는 SK의 통합 AI 인프라 역량을 이번 파트너십에 집중해 글로벌 AI 인프라 혁신과 대한민국의 국가 AI 경쟁력 강화에 적극 나설 것”이라고 말했습니다. SK하이닉스, 월 90만장 웨이퍼 소요되는 오픈AI 반도체 수요 대응 SK하이닉스는 스타게이트 프로젝트에서 고대역폭메모리(HBM) 반도체 공급 파트너로 참여합니다. 이번 메모리 공급 의향서 체결은 올해 상반기 기준 D램 글로벌 매출 1위인 SK하이닉스의 AI 전용 메모리반도체 기술력과 공급 역량을 인정받은 결과라고 SK는 설명했습니다. 이에 SK하이닉스는 D램 웨이퍼 기준 월 최대 90만장 규모의 HBM 공급 요청에 적기 대응할 수 있는 생산 체제를 구축할 예정입니다. 오픈AI의 HBM 공급 요청은 웨이퍼 기준으로 현재 전세계 HBM 생산 능력의 2배가 넘는 수준입니다. SK하이닉스는 이번 협력을 통해 오픈AI의 AI 가속기(GPU) 확보 전략 실현을 적극 협력하고, 양사 간 협업 역시 지속 확장키로 했습니다. SKT, 서남권에 ‘한국형 스타게이트’…K-AI 구축 드라이브 SK텔레콤은 대규모 DC구축·운영 경험을 바탕으로 오픈AI와 양해각서(MOU)를 체결, 한국 서남권에 오픈AI 전용 AI DC를 공동 구축해 ‘한국형 스타게이트’를 실현한다는 계획입니다. 양사 협력은 AI 데이터센터를 기반으로 B2C·B2B AI 활용 사례를 발굴하고, 나아가 차세대 컴퓨팅과 데이터센터 솔루션의 시범 운용까지 포함합니다. 한국은 세계 최고 수준의 통신·전력인프라와 반도체 기술, 풍부한 AI 수요를 바탕으로 글로벌 AI 혁신의 테스트 베드 역할을 합니다. SK 관계자는 “AI DC 협력은 SK그룹과 글로벌 1위 AI 기업인 오픈 AI가 대한민국 AI 대전환을 위한 강력한 파트너십을 구축했다는 점에서 의미가 있다”며 “서남권 AI DC는 아시아 지역 AI DC 허브로 자리매김해 지속가능한 협력을 이끌어내는 기반이 될 것이고 SK그룹이 추진 중인 ‘SK AI 데이터센터 울산’과 함께 동서를 연결하는 AI 벨트를 구축해 지역 균형발전에 기여하고 대한민국 전역의 AI 대전환을 가속화할 것”이라고 말했습니다. 한미 AI 경제 동맹 발판 기대…“AI 3대 강국 디딤돌 될 것” SK그룹은 이번 스타게이트 프로젝트 참여는 한미 간 AI 경제동맹을 공고히 하는 계기가 될 것으로 평가하고 있습니다. 제조와 통신 영역에서 강점을 가진 대한민국과 AI 기술의 선두 주자인 미국 간의 협력모델이 상호 보완 및 글로벌 AI 리더십 동맹의 출발점이 될 것으로 기대하고 있습니다. 최태원 회장과 샘 올트먼 CEO는 2023년부터 긴밀히 협력하며 AI 인프라의 미래를 함께 설계했습니다. 양측은 AI 학습과 추론에 필요한 워크로드 폭증에 대비해 전용 반도체 개발과 인프라 구축의 필요성에 깊이 공감하며, 하드웨어 병목 없는 차세대 AI 모델 개발을 위한 새로운 메모리-컴퓨팅 아키텍처 등 혁신적 AI 인프라 공동 개발을 논의해 왔습니다. 이번 파트너십 체결은 칩 개발부터 데이터센터 구축·운영까지 전 주기에 걸친 기술 혁신 협력의 본격적 출발점으로, 글로벌 AI 생태계에 새로운 패러다임을 제시할 것으로 SK는 기대하고 있습니다. SK그룹은 AI를 새로운 성장축으로 삼아 사업 포트폴리오를 혁신 중이며, 올해 8월 아마존웹서비스(AWS)와 함께 ‘SK AI 데이터센터 울산’ 기공식을 여는 등 글로벌 빅테크와 협력을 강화하고 있습니다. SK 관계자는 “글로벌 AI 대전환 시기를 맞아 핵심 플레이어로서 시장 참여를 확대할 수 있도록 빅테크 협력과 관련 투자를 지속적으로 강화하고. K-AI 생태계 확장에도 기여하겠다”고 말했습니다.




배너