GTC 2024 개막...H100대비 최대 30배 성능에 전력소모 25분1
10조개의 파라미터 AI모델에 대한 훈련과 실시간 LLM 추론해
젠슨 황 CEO "블랙웰은 GPU아닌 플랫폼...AI세상의 돕는자"

엔비디아가 차세대 AI컴퓨팅 플랫폼인 ‘B200 블랙웰’을 공개했다. 이는 이전 H100 호퍼(Hopper) 시스템 대비 월등히 강력해진 ‘B200’ 시스템을 기반으로 한 것으로, 최대 30배의 성능을 내면서도 전력소모는 최대 25분의 1로 줄였다.

엔비디아는 이 블랙웰 플랫폼이 보다 강력한 성능과 적은 전력소모를 원하는 클라우드 사업자들에게 최적의 제안이라고 설명했다.

 

젠슨 황이 18일(현지시간) 미국 새너제이에서 열린 GTC 2024에서 B200칩 블랙웰을 소개하고 있다. 왼쪽은 호퍼 시스템 H100이고, 오른쪽이 블랙웰 칩이다. 출처=엔비디아
젠슨 황이 18일(현지시간) 미국 새너제이에서 열린 GTC 2024에서 B200칩 블랙웰을 소개하고 있다. 왼쪽은 호퍼 시스템 H100이고, 오른쪽이 블랙웰 칩이다. 출처=엔비디아

 

엔비디아는 18일(현지시간) 미국 새너제이 SAP 센터에서 개발자 컨퍼런스인 ‘GTC 2024’를 열고 차세대 AI칩 시스템인 B200의 첫 선을 보였다.

B200 시스템은 2개의 B200 텐서 코어 GPU를 그레이스 CPU에 연결한 ‘GB200 블랙웰 슈퍼칩’을 병렬로 연결한 것이다. 이 시스템은 엔비디아 GB200 NVL72의 수냉식 랙 스케일로 공급되는데, GB200 NVL72는 72개의 블랙웰 GPU와 5세대 NV링크로 연결된 36개의 그레이스 블랙웰 슈퍼칩과 36개의 그레이스 CPU가 결합됐다.

블랙웰은 10조개의 파라미터로 확장되는 모델에 대한 AI 훈련과 실시간 LLM 추론을 지원한다. B200 코어 GPU는 2080억개의 트랜지스터를 탑재했으며, 새로운 텐서 확장을 지원하는 2세대 트랜스포머 엔진이라고 엔비디아측은 설명했다.

 

젠슨 황 엔비디아 CEO가 블랙웰 플랫폼에 대해 설명하고 있다. 엔비디아가 훈련중인 로봇 '오렌지'도 등장한다.
젠슨 황 엔비디아 CEO가 블랙웰 플랫폼에 대해 설명하고 있다. 엔비디아가 훈련중인 로봇 '오렌지'도 등장한다.

 

이날 기조 연설에 나선 젠슨 황 엔비디아 CEO는 “블랙웰은 플랫폼으로 AI 세상을 돕는자(helper)로 새로운 산업 혁명을 구동하는 엔진이다”면서 “세계에서 가장 역동적인 기업들과 협력해 모든 산업에서 AI의 가능성을 실현할 것”이라고 말했다.

엔비디아는 블랙웰 플랫폼을 사용할 고객사도 공개했다. 데이터센터를 운영하며 클라우드 서비스를 제공하는 AWS를 비롯 MS, 구글은 물론 메타 오픈AI 등 글로벌 빅테크 기업들이 이를 도입할 것이라고 밝혔다.

젠슨 황은 이번 기조연설에서 다양한 시스템에서 AI모델을 배포하는 방식을 변화하는 새로운 추론 마이크로서비스인 NIMs 소프트웨어도 공개했다. 그는 또한 기조연설 말미에 엔비디아가 훈련중인 휴머로이드 로봇 ‘오렌지’와 ‘그레이’도 등장시켰다.

그가 꿈꾸는 AI세상의 진정한 돕는자가 엔비디아의 AI GPU 시스템이며, 휴머로이드 로봇은 AI가 변화시킬 대표적인 새로운 영역이라는 설명이다. 엔비디아는 휴머노이드 로봇 프로젝트인 ‘그루트(GROOT)’도 발표했다.

한편, 엔비디아는 B200 칩에 대한 가격을 발표하지 않았다. 

관련기사

저작권자 © 테크데일리(TechDaily) 무단전재 및 재배포 금지