인공지능(AI) 열풍으로 데이터센터용 고성능 반도체 수요가 급증하고 있는 가운데, CPU(중앙처리장치) 1위인 인텔과 GPU(영상처리반도체) 1위인 엔비디아가 성능 향상을 위해 서로의 영역을 침범하기 시작했다고 니혼게이자이신문은 보도했다.
이어 “(인텔과 엔비디아) 반도체 2강이 시장을 양분하는 시대는 종점을 향해 가고 있다”고 지적했다.
“생성 AI 시대의 완전히 새로운 프로세서를 만들었다.”
지난 8월 초 미국 로스앤젤레스에서 열린 CG(컴퓨터그래픽스) 분야 국제 컨퍼런스 ‘씨그래프’에서 기조연설에 나선 젠슨 황 엔비디아 CEO는 데이터센터용 AI 반도체의 최신 모델을 선보이며 이 같이 말했다.
미국 해군의 전설적인 여성 프로그래머의 이름을 따서 ‘그레이스 호퍼(Grace Hopper)’라고 이름 붙인 이 AI 반도체에는 엔비디아가 처음으로 데이터센터용으로 자체 개발한 CPU를 탑재했다. 자사의 주력 GPU인 ‘H100’과 결합하면 AI의 학습 속도를 기존 대비 약 4배 높일 수 있다고 한다.
AI의 학습에는 대량의 정보 병렬 처리에 특화된 GPU가 사용되지만, 이를 제어하는 것은 CPU다. 기존에는 둘 사이의 정보 교환이 병목현상이 발생해 GPU의 성능을 충분히 끌어내지 못하는 경우가 있었다. 그레이스 호퍼는 통신 방식을 개선해 CPU와 GPU 간 통신 속도의 상한선을 기존보다 7배 높였다.
CPU 분야에서는 1년6개월에서 2년 사이에 소자 수가 2배로 늘어나는 ‘무어의 법칙’이 작동되지 않고 있는 상황이다. 엔비디아는 GPU 개선을 주도하며 생성 AI의 빠른 진화를 인프라 측면에서 뒷받침해 왔다. 세계 슈퍼컴퓨터 상위 100대 중 GPU를 채택한 기종의 비율은 2018년 상반기 16%에서 2023년에는 58%로 높아졌다.
생성 AI 개발 기업들 사이에서는 고성능 GPU 쟁탈전이 계속되고 있다. 엔비디아의 H100은 공급이 수요를 따라가지 못해 1년을 기다려야 하는 것으로 알려졌다. 기존 GPU를 포함해 데이터센터의 성능을 최대로 끌어올리기 위해서는 CPU의 성능 향상도 요구된다.
데이터센터에서는 서로 다른 개발사의 반도체를 병용하는 경우가 많아, 각사는 타사 제품과의 연결성을 중시해 왔다. 엔비디어는 이러한 관례를 깨고 그레이스 호퍼의 설계에서 자사 제품과의 연계에 중점을 두었는데, AI 반도체 수요를 총체적으로 잡으려는 의도가 엿보인다.
영국 시장조사업체 옴디아에 따르면 엔비디아의 2022년 데이터센터용 GPU 등 세계 점유율은 90%에 육박한다. 다른 조사에서는 인텔의 데이터센터용 CPU 세계 점유율은 70%였다. 이제 막 그레이스 호퍼의 양산이 이제 막 시작됐지만, 엔비디아가 CPU 시장에서도 인텔의 점유율을 깎아먹을 가능성이 있다.
수세에 몰린 인텔도 손을 놓고 있지 않다. 지난 6월 고성능 GPU를 탑재한 데이터센터용 AI 반도체 ‘GPU Max(맥스) 시리즈’를 출하하기 시작한 것. AI를 활용한 이미지 분석 등 특정 용도에서 엔비디아의 H100보다 더 높은 처리 능력을 발휘할 수 있다고 한다.
맥스 시리즈를 구성하는 반도체는 인텔의 7나노미터 제품과 대만 TSMC가 제조하는 5나노미터 제품을 결합했다.
캐나다 조사기관 프레지던트 리서치에 따르면 2023년 AI 반도체 시장 규모는 전년 대비 30% 증가한 218억 달러가 될 것으로 예상된다. 전체 반도체 시장에서 차지하는 비중은 3% 정도지만, 수급 불균형을 배경으로 고가 거래가 이어지고 있다. 스마트폰 판매 부진 등으로 반도체 시황이 악화되는 가운데 AI용은 몇 안 되는 ‘알짜배기 시장’이 되고 있다.
실제로 엔비디아가 지난 23일 발표한 2023년 5~7월 결산에서 매출액 순이익률은 46%에 달했다. 현재 시가총액은 1조1000억 달러(약 1500조 원)를 넘어 인텔과 약 8배의 격차를 보이고 있다.
최근에는 음성이나 동영상 등 데이터 양이 많은 자료를 생성 AI에 학습시키는 사례가 늘고 있다. 최첨단 AI 개발에 필요한 계산량이 지난 수십 년 동안 100억 배로 늘어난 반면, 같은 기간 슈퍼컴퓨터의 연산능력 증가는 수백 배 정도에 그칠 것이라는 추산도 있다. 기반이 되는 AI 반도체는 여전히 기술 혁신의 여지가 크다.
한편, 생성 AI 붐을 기회로 삼아 인텔과 엔비디아 2강 체제가 이어지던 데이터센터용 반도체 시장에 뛰어들려는 움직임도 있다. CPU에서 약 20%의 점유율을 가진 어드밴스드마이크로디바이스(AMD)가 대표적인 기업이다.
지난 6월 세부 내용을 공개한 최신 데이터센터용 AI 반도체 ‘MI300’은 여러 개의 반도체를 블록처럼 조합해 일체형으로 동작하는 ‘칩렛(chiplet)’ 기술을 채택했다. 기존 제품보다 8배의 연산 성능을 갖췄다. 리사 수 CEO) “(생성 AI를 구동하는) 대규모 언어 모델 개발에 유리하다”고 강조한다.
2016년 설립된 캐나다 스타트업 텐스트렌트는 CPU 등과 결합해 AI의 성능과 전력 효율을 높이는 자체 반도체 개발에 주력하고 있다. 이 회사 CEO 짐 켈러는 AMD, 애플 등을 거쳐 테슬라에서 자율주행용 AI 시스템 개발을 지휘한 엔지니어다. 그는 “개발 중인 자체 반도체와 CPU를 보다 통합적으로 운영할 수 있다면 모든 AI 개발 및 운용에서 높은 성능을 발휘할 수 있을 것”이라고 말한다.
반도체 업체들의 대형 고객인 구글, 아마존 등도 자사 클라우드 서비스에 최적화된 AI 반도체 개발에 힘을 쏟고 있다. 자금력을 앞세운 IT 대기업들의 움직임은 업계 세력 판도에 영향을 미칠 것으로 보인다.