검색창 열기 인더뉴스 부·울·경

Tech 테크

엔비디아, 구글과 AI ‘젬마’ 성능 업그레이드

URL복사

Friday, February 23, 2024, 09:02:34

엔비디아 AI 플랫폼 전반에서 텐서RT-LLM으로 성능 가속화
미세조정, 프로덕션 애플리케이션 배포 가능
맞춤형 챗봇 제공하는 '챗 위드 RTX'에서도 젬마 지원 예정

 

인더뉴스 이종현 기자ㅣ엔비디아가 구글과 협력해 모든 엔비디아 AI 플랫폼에서 AI 모델 '젬마(Gemma)'를 위한 최적화를 실시했다고 23일 밝혔습니다.

 

젬마는 구글의 새로운 경량 오픈 언어 모델입니다. 멀티모달 모델인 제미나이(Gemini) 개발에 사용된 동일한 연구와 기술을 기반으로 구축됐으며 엔비디아는 구글과 협력해 엔비디아 텐서RT-LLM(TensorRT-LLM)으로 젬마의 성능을 가속화했습니다. 텐서RT-LLM은 데이터센터, 클라우드 혹은 엔비디아 RTX GPU가 탑재된 PC에서 대규모 언어 모델(LLM) 추론을 최적화하는 오픈 소스 라이브러리입니다.

 

개발자들은 클라우드 상의 엔비디아 GPU에서도 젬마를 실행할 수 있습니다. 여기에는 H100 텐서 코어(H100 Tensor Core) GPU를 기반으로 하는 구글 클라우드 A3인스턴스(A3 instances)가 포함되며 초당 4.8테라바이트의 141GB HBM3e 메모리를 갖춘 엔비디아 H200 텐서 코어 GPU도 합류할 예정입니다. 구글은 올해 안에 이를 배포할 예정입니다. 

 

또한 엔비디아 기술 데모인 챗 위드 RTX에 곧 젬마가 추가로 지원될 예정입니다. 챗 위드 RTX는 검색 증강 생성(Retrieval-augmented generation, RAG)과 텐서RT-LLM 소프트웨어를 사용해 로컬 RTX 기반 윈도우 PC에서 사용자에게 생성형 AI 기능을 제공하는 기술입니다.

 

챗 위드 RTX는 로컬에서 모델이 실행되므로 결과가 빠르게 제공되며 사용자 데이터가 디바이스에 유지됩니다. 클라우드 기반 LLM 서비스에 대신 챗 위드 RTX를 사용하면 민감한 데이터를 제3자와 공유하거나 인터넷에 연결할 필요 없이 로컬 PC에서 처리할 수 있습니다.

 

엔비디아는 지난 21일 미국 뉴욕증시 마감 후 실적발표를 통해 2023 회계연도 4분기(지난해 10월~올 1월)기준 매출 221억300만달러(약 28조원), 주당순이익(EPS) 5.16달러를 기록했다고 밝혔습니다.

English(中文·日本語) news is the result of applying Google Translate. <iN THE NEWS> is not responsible for the content of English(中文·日本語) news.

배너

이종현 기자 flopig2001@inthenews.co.kr

배너

삼성·LG전자, ‘으뜸효율 가전 환급사업’ 맞춰 구매 혜택 확대

삼성·LG전자, ‘으뜸효율 가전 환급사업’ 맞춰 구매 혜택 확대

2025.07.07 09:42:37

인더뉴스 이종현 기자ㅣ삼성전자와 LG전자가 산업통상자원부가 시행하는 ‘으뜸효율 가전제품 환급 사업’에 발맞춰 고효율 가전제품 구매 고객에게 다양한 추가 혜택을 제공합니다. ‘으뜸효율 가전제품 환급 사업’은 에너지소비효율 1등급 제품을 구매하면 인당 최대 30만원 한도 내에서 구매 금액의 10%를 환급하는 것이 주 내용으로, 전력 소모가 적은 가전제품의 보급 확대를 위한 정부 지원 정책입니다. 환급 대상 제품은 TV, 에어컨, 제습기, 세탁기, 건조기, 냉장고, 김치냉장고, 식기세척기, 공기청정기 등입니다. 7월 4일 이후 대상 모델을 구매한 고객은 ▲에너지효율등급 라벨 ▲제조번호(시리얼번호) 명판 ▲거래내역서 ▲구매영수증 등을 준비해 한국 에너지공단 홈페이지에서 직접 신청하면 환급받습니다. 삼성전자는 전국 삼성스토어 매장과 삼성닷컴에서 으뜸효율 해당 제품 구매부터 에너지효율 라벨, 제품 명판 촬영 방법, 구매인증서류 발급 후 실제 환급 신청까지 자세한 안내를 제공할 예정입니다. 삼성전자는 11개 품목 450여 개의 으뜸효율 가전제품을 보유하고 있습니다. 삼성전자는 으뜸가전사업의 취지를 살리기 위해, 으뜸효율 가전제품을 구매하는 고객에게 정부의 10% 환급금 외에 삼성전자만의 다양한 추가 혜택을 제공합니다. 삼성스토어와 삼성닷컴에서 으뜸효율 가전제품 구매 시 최대 10% 혜택을 추가로 제공하고, 해당 제품 중 특별행사모델은 출고가의 최대 10%를 멤버십 포인트로 적립해 줍니다. 또 2개 이상의 AI 가전을 구매 시 품목당 최대 5만원 삼성전자 멤버십 포인트를 제공하는 ‘AI 패키지’에도 으뜸효율 가전 혜택을 추가했습니다. LG전자도 고객이 환급 대상 제품을 쉽게 확인할 수 있도록 해당 제품에 ‘으뜸효율 환급’ 표시를 부착, 전국 LG전자 베스트샵과 온라인 브랜드샵 등에서 판매합니다. LG전자는 환급사업에 발맞춰 ‘으뜸효율 가전 페스타’ 이벤트를 진행합니다. LG전자 멤버십 앱에서 이벤트에 응모한 고객 중 총 1000명을 추첨해 스타일러·에어로퍼니처·모바일 상품권 등을 증정합니다. 온라인 브랜드샵에서는 최대 50만 원 상당의 할인 쿠폰도 제공합니다. LG전자는 ‘E-순환거버넌스’와 협력해 전국 베스트샵에서 TV·냉장고·세탁기·스타일러·식기세척기 등 약 170개 ‘E-순환우수제품’ 인증 모델을 구독으로 구매한 고객에게 제품당 최대 5만 포인트(네이버페이 또는 카카오페이) 환급 혜택을 제공하는 행사도 이달 31일까지 진행합니다.


배너


배너