삼성전자가 데이터 저장과 연산을 동시에 처리하는 지능형 메모리 반도체를 세계 최초로 개발했다.

메모리 반도체에 인공지능(AI) 엔진을 탑재한 것으로 차세대 반도체 융합기술을 선점한 것이다.

또 방대한 양의 데이터를 막힘없이 처리하는 지능형 메모리 반도체 개발을 통해 인공지능(AI) 시대를 한발 앞당길 것으로 기대된다.

삼성전자는 메모리 반도체와 인공지능 프로세서를 하나로 결합한 HBM-PIM(Processing-in-Memory)을 개발했다고 17일 밝혔다.

PIM은 메모리 내부에 연산 작업에 필요한 프로세서 기능을 더한 차세대 신개념 융합기술이다.

해당 반도체는 저장을 담당하는 메모리 반도체와 연산을 담당하는 시스템 반도체를 하나로 합친 개념으로 AI 시스템 및 서버 등 한꺼번에 대량의 데이터 처리가 필요한 분야에서 광범위한 활용이 예상된다.

기존 컴퓨터 설계에서 데이터 처리는 중앙처리장치(CPU)에서 명령어를 넣으면 메모리 반도체에 저장된 데이터를 불러오고 이를 다시 시스템 반도체로 넘겨 연산하는 방식으로 이뤄졌다.

이때 하나의 통로를 통해 순차적으로 데이터가 이동하는데 이때 데이터의 양이 많아지면 지연 현상이 생긴다.

이를 해결하기 위해 학계와 업계에서는 메모리 내부에 일부 연산을 담당하는 프로세서를 융합한 ‘PIM’ 기술을 대안으로 제시해왔다.

삼성전자는 PIM 기술을 활용해 슈퍼컴퓨터(HPC)와 AI 등 초고속 데이터 분석에 활용되는 HBM2(High Bandwidth Memory) 아쿠아볼트(Aquabolt)에 인공지능 엔진을 탑재한 HBM-PIM을 개발했다고 설명했다.

HBM2 아쿠아볼트는 지난 2018년 1월 삼성전자가 양산한 2세대 고대역폭 메모리 반도체이다.

삼성전자에 따르면 AI 시스템에 HBM-PIM을 탑재할 경우 기존 HBM2를 이용한 시스템 대비 성능은 약 2배 이상 높아지고, 시스템 에너지는 70% 이상 감소된다.

메모리 반도체 내에 연산을 담당하는 AI엔진이 탑재되면서 성능은 향상되고 데이터 이동이 줄면서 필요 전력도 줄어들었기 때문이다.

또 기존 HBM 인터페이스를 그대로 지원해 HBM을 이용하는 고객들은 하드웨어나 소프트웨어의 변경 없이 HBM-PIM을 통해 강력한 AI 가속기(인공지능을 실행하기 위한 전용 하드웨어) 시스템을 구축할 수 있게 된 것도 큰 강점이다.

최근 인공지능의 응용 영역이 확대되고 기술이 고도화됨에 따라 고성능 메모리에 대한 요구가 지속적으로 커져왔으나 기존의 메모리로는 폰 노이만 구조의 한계를 극복하기 어려웠다.

폰 노이만 구조는 대부분의 컴퓨터에서 사용하는 방식으로 CPU가 메모리로부터 명령어를 불러오고 실행하며 그 결과를 다시 기억장치에 저장하는 작업을 순차적으로 진행한다.

이 과정에서 CPU와 메모리간 주고받는 데이터가 많아지면 작업처리가 지연되는 현상이 생긴다.

삼성전자는 이를 극복하기 위해 메모리 내부의 각 뱅크(Bank, 주기억장치를 구성할 때의 최소 논리적 단위)에 인공지능 엔진을 장착하고 병렬처리를 극대화해 성능을 높였다.

또 HBM-PIM은 메모리 내부에서 연산처리가 가능해 CPU와 메모리간 데이터 이동이 줄어들어 AI 가속기 시스템의 에너지 효율을 높일 수 있다.

삼성전자는 이 혁신기술을 D램 공정에 접목시켜 HBM-PIM을 제품화 하는데 성공하고 반도체 분야 세계 최고권위 학회인 ISSCC에서 논문을 공개했다.

박광일 삼성전자 메모리 사업부 상품기획팀장(전무)은 "HBM-PIM은 AI 가속기의 성능을 극대화 시킬 수 있는 업계최초의 인공지능 맞춤형 PIM 솔루션으로 삼성전자는 고객사들과 지속적으로 협력을 강화해 PIM 에코 시스템을 구축해 나갈 것"이라고 밝혔다.

미국 아르곤 국립 연구소 CELS(컴퓨팅, 환경 및 생명과학) 연구실장 릭 스티븐스는 "HBM-PIM은 AI 응용을 위한 성능 및 에너지 효율 측면에서 놀라운 성과로 HBM-PIM 시스템 평가를 위해 향후에도 삼성전자와 지속적인 협력을 기대한다"고 밝혔다.

이미지 분류나 음성 인식, 기계 번역 등 다양한 분야에 활용되는 AI 기술은 방대한 양의 데이터 처리가 막힘없이 이뤄져야 한다.

이 때문에 반도체 업계에서는 AI 기술의 핵심 부품인 메모리 반도체의 성능을 끌어올리기 위해 다각도로 노력하고 있다.

맥킨지앤드컴퍼니에 따르면 AI 반도체 시장은 2025년 650억 달러 규모로 성장할 것으로 전망되며, 이는 반도체 시장 전체의 19%에 수준 달한다.

삼성전자는 이번 지능형 메모리 반도체 제품 개발에 성공하며 AI 반도체 시장에 새로운 개념을 제시하고 시장을 선점해 나간다는 계획이다.

삼성전자는 상반기내 다양한 고객사들의 AI 가속기에서 HBM-PIM을 탑재해 테스트 검증을 완료할 예정이다.

삼성전자 관계자는 “향후 고객사들과 PIM 플랫폼의 표준화와 에코 시스템 구축을 위해 협력을 강화해 나갈 계획”이라고 말했다.