검색창 열기 인더뉴스 부·울·경

Tech 테크

엔비디아, 구글과 AI ‘젬마’ 성능 업그레이드

URL복사

Friday, February 23, 2024, 09:02:34

엔비디아 AI 플랫폼 전반에서 텐서RT-LLM으로 성능 가속화
미세조정, 프로덕션 애플리케이션 배포 가능
맞춤형 챗봇 제공하는 '챗 위드 RTX'에서도 젬마 지원 예정

 

인더뉴스 이종현 기자ㅣ엔비디아가 구글과 협력해 모든 엔비디아 AI 플랫폼에서 AI 모델 '젬마(Gemma)'를 위한 최적화를 실시했다고 23일 밝혔습니다.

 

젬마는 구글의 새로운 경량 오픈 언어 모델입니다. 멀티모달 모델인 제미나이(Gemini) 개발에 사용된 동일한 연구와 기술을 기반으로 구축됐으며 엔비디아는 구글과 협력해 엔비디아 텐서RT-LLM(TensorRT-LLM)으로 젬마의 성능을 가속화했습니다. 텐서RT-LLM은 데이터센터, 클라우드 혹은 엔비디아 RTX GPU가 탑재된 PC에서 대규모 언어 모델(LLM) 추론을 최적화하는 오픈 소스 라이브러리입니다.

 

개발자들은 클라우드 상의 엔비디아 GPU에서도 젬마를 실행할 수 있습니다. 여기에는 H100 텐서 코어(H100 Tensor Core) GPU를 기반으로 하는 구글 클라우드 A3인스턴스(A3 instances)가 포함되며 초당 4.8테라바이트의 141GB HBM3e 메모리를 갖춘 엔비디아 H200 텐서 코어 GPU도 합류할 예정입니다. 구글은 올해 안에 이를 배포할 예정입니다. 

 

또한 엔비디아 기술 데모인 챗 위드 RTX에 곧 젬마가 추가로 지원될 예정입니다. 챗 위드 RTX는 검색 증강 생성(Retrieval-augmented generation, RAG)과 텐서RT-LLM 소프트웨어를 사용해 로컬 RTX 기반 윈도우 PC에서 사용자에게 생성형 AI 기능을 제공하는 기술입니다.

 

챗 위드 RTX는 로컬에서 모델이 실행되므로 결과가 빠르게 제공되며 사용자 데이터가 디바이스에 유지됩니다. 클라우드 기반 LLM 서비스에 대신 챗 위드 RTX를 사용하면 민감한 데이터를 제3자와 공유하거나 인터넷에 연결할 필요 없이 로컬 PC에서 처리할 수 있습니다.

 

엔비디아는 지난 21일 미국 뉴욕증시 마감 후 실적발표를 통해 2023 회계연도 4분기(지난해 10월~올 1월)기준 매출 221억300만달러(약 28조원), 주당순이익(EPS) 5.16달러를 기록했다고 밝혔습니다.

English(中文·日本語) news is the result of applying Google Translate. <iN THE NEWS> is not responsible for the content of English(中文·日本語) news.

배너

이종현 기자 flopig2001@inthenews.co.kr

배너

[악취와의 전쟁] 악취의 발생 원인을 추적하다①

[악취와의 전쟁] 악취의 발생 원인을 추적하다①

2024.11.23 07:05:00

일상 속에서 간과되기 쉽지만, 점차 심각한 환경 문제로 대두되고 있는 악취 문제는 단순히 불쾌감을 넘어 건강과 생활의 질에 직접적인 영향을 미칩니다. 한국산업단지공단에 따르면 전국 1300여 개의 각종 산업단지에 12만여 개의 업체가 있으며, 이 중 7000개 이상이 악취 배출 사업장으로 분류되고 있습니다. 또한, 한국환경공단 통계에 따르면 2019년부터 매년 꾸준히 4만 건 이상의 악취 관련 민원이 발생하고 있으며, 지자체와 환경부의 지속적인 노력에도 불구하고 계속 증가하는 추세입니다. 이에 따라 30년간 악취 분야에 집중하며 분석부터 저감, 시공, 관리까지 종합적인 솔루션을 제공하는 기업의 사례를 통해 악취 문제의 원인과 해결 방안을 모색해보고자 합니다. [편집자주] 인더뉴스 제해영 기자ㅣ악취를 제거하기 위해서는 악취의 발생지를 추적하고 악취를 포집 및 분석하여 악취를 발생하는 원인물질을 찾아내는 것이 중요합니다. 악취를 분석하는 방법에는 직접 관능평가와 정밀기기분석 및 감지센서를 이용하는 방법 등이 있습니다. 분석 결과로 나온 수 많은 물질들 중 직접적으로 악취 발생에 가담하는 물질들만을 선별하여 악취를 재현해 같은 악취가 나는지 확인하여 최종 원인 물질들을 찾아냅니다. 악취가 발생하면, 발생 지점과 원인을 정확히 파악하기 위해 악취물질의 종류와 농도를 추적하는 체계적인 방법이 필요합니다. 악취는 눈으로 확인할 수 없기 때문에 냄새의 특성과 관련된 물질을 추적하는 방식으로 접근합니다. 1. 악취물질의 포집 및 감지 악취발생지로 의심되는 여러 지점에서 적법한 방법으로 악취를 포집하거나, 센서를 통해 악취물질을 감지합니다. 2. 포집된 기체의 분석 포집된 악취 기체를 분석설비에서 정밀하게 분석하여 포함된 모든 물질의 종류와 농도를 확인합니다. 이를 통해 악취를 유발하는 주요 물질들을 확인합니다. 3. 악취 기여율 분석 분석 결과를 기반으로 각 물질의 악취 기여율을 평가하여, 실제로 악취를 유발하는 원인 물질과 그 농도를 확정합니다. 4. 악취 표준 가스 재현 확정된 악취물질을 바탕으로 인체에 무해한 양으로 동일한 악취 가스를 제조합니다. 이를 통해 악취를 재현하여 검증 과정을 진행합니다. 5. 냄새 비교 및 검증 재현된 악취 가스를 채취한 샘플과 비교하여, 검증 가능한 자격을 가진 분석원이 동일한 냄새인지 확인합니다. 6. 악취 원인 확정 및 대처 방안 마련 악취를 유발하는 정확한 원인을 확인한 후, 이를 바탕으로 적절한 대처 방안을 마련하여 악취 문제를 해결합니다. ☞ 자료제공 : (주)태성환경연구소 (주)태성환경연구소는 빅데이터를 활용해 악취 발생 패턴을 분석하고 문제를 사전에 예측하는 시스템을 개발해 온 회사입니다. 관능평가, 기기분석, 센서를 통해 악취를 다각적으로 분석하며, 냄새 재현 기술로 실제 환경과 유사한 조건에서 악취 원인 물질을 선정할 수 있는 기술을 보유하고 있습니다. 이러한 빅데이터 기반 분석과 정밀 기술을 통해 맞춤형 악취 해결 솔루션을 제공하고 있습니다.


배너


배너