UPDATED. 2021-10-15 17:08 (금)
그래프코어, 허깅페이스와 파트너십… 그래프코어 IPU에 최적화된 SOTA 트랜스포머 개발
그래프코어, 허깅페이스와 파트너십… 그래프코어 IPU에 최적화된 SOTA 트랜스포머 개발
  • 문상현 기자
  • 승인 2021.09.17 09:00
  • 댓글 0
이 기사를 공유합니다

인공지능(AI) 반도체 기업 그래프코어(Graphcore)가 오픈소스 AI 분야를 선도하고 있는 허깅페이스(Hugging Face)와 파트너십을 체결했다.

그래프코어는 허깅페이스의 ‘하드웨어 파트너 프로그램(Hardware Partner Program)’에 참여, 머신 인텔리전스 혁신 가속화라는 양사의 공동 목표를 실현해 나갈 예정이다. 이로써, 개발자들은 허깅페이스 하드웨어 파트너 프로그램을 통해 최소한의 코딩으로 그래프코어 IPU(Intelligence Processing Unit)에 최적화된 SOTA(State-of-the-Art) 트랜스포머 모델을 생산 규모로 구현할 수 있게 됐다.

IPU는 그래프코어의 데이터센터 컴퓨팅 시스템 IPU-POD의 기초가 되는 프로세서로, 특히 AI와 머신러닝(ML)에 요구되는 고유의 컴퓨팅 사양을 지원하도록 설계되었다. 세분화된 병렬 처리, 저정밀도 연산, 희소성 처리 능력과 같은 특성을 갖는다.

그래프코어 IPU는 GPU와 같은 SIMD/SIMT 아키텍처 대신, 실리콘 다이(die) 바로 위 프로세서 코어에 인접한 초고대역폭 메모리와 함께 대규모 병렬 MIMD 아키텍처를 사용한다. 이러한 설계는 BERT나 이피션트넷(EfficientNet)과 같이 오늘날 가장 널리 사용되는 모델의 구동은 물론, 차세대 AI 애플리케이션 탐색을 위한 획기적인 성능과 효율성을 제공한다.

그래프코어는 IPU 기능 극대화에 있어 소프트웨어의 중요성을 강조해왔다. 그래프코어는 창사 이래 모든 프로세서와 자사 소프트웨어 포플러(Poplar) SDK를 공동 설계하며 개발자들이 가장 많이 사용하는 타사 시스템과 호환이 가능하도록 했다. 개발자는 다른 컴퓨팅 플랫폼에서도 모델을 쉽게 포팅(port)해와 IPU의 성능적 이점을 활용할 수 있다. 

현재 포플러 SDK는 파이토치(PyTorch)와 텐서플로우(TensorFlow)를 포함한 표준 머신러닝 프레임워크와 도커(Doker) 및 쿠버네티스(Kubernetes)와 같은 오케스트레이션 및 배포 툴과 완전히 통합된다.

그래프코어 고객들은 BERT와 같은 모델을 자연어 처리(Natural Language Processing, NLP) 이상의 다양한 애플리케이션에 걸쳐 광범위하게 사용하고 있으며, 이러한 모델은 특징 추출, 텍스트 생성, 감정 분석, 번역을 포함한 다양한 기능을 수행해내고 있다.

허깅페이스는 이미 프랑스어 언어 CamemBERT를 비롯해, NLP에서 얻은 통찰을 컴퓨터 비전에 적용하는 ViT 등을 포함한 수백 개의 트랜스포머를 보유하고 있다. 허깅페이스의 트랜스포머 라이브러리는 월평균 2백만 다운로드를 기록하고 있다. 

그 수요가 계속해서 증가하고 있는 가운데, 허깅페이스는 이번 파트너십 체결을 통해 최상의 트랜스포머 툴세트를 그래프코어의 최첨단 AI 하드웨어와 결합시키며, AI 혁신 가속화에 속도를 낼 전망이다.

개발자들은 새로운 오픈소스 라이브러리 및 툴킷인 옵티머스(Optimus)를 사용하여 허깅페이스 인증을 거친 하드웨어 최적화 모델을 활용할 수 있게 된다. 양사는 긴밀한 협업을 통해 해당 모델을 공동 개발 중으로, 2021년 말 그래프코어 IPU에 최적화된 첫 모델을 선보일 예정이다. 또한, 개발 중인 모델은 시각, 음성, 번역, 텍스트 생성 등 광범위한 응용 분야에 적용될 것으로 기대된다.

그래프코어는 이미 PyTorch로 그래프코어에 최적화된 허깅페이스 BERT를 구현해 SOTA 트랜스포머 모델을 가속화하는 IPU의 위력을 입증한 바 있다. 특히, 그래프코어 시스템으로 구현한 BERT는 벤치마크에서 GPU 대비 극적인 결과를 냈다. 최고의 효율성을 자랑하는 그래프코어 IPU는 학습 시간은 단축시키는 동시에, 모델 개발 시 더 많은 학습 반복을 가능케 하며 머신러닝 연구 및 엔지니어링의 판도를 바꾸고 있다.

한편, 그래프코어는 허깅페이스와의 이번 협력을 통해 보다 많은 개발자들이 트랜스포머의 가능성을 체험할 수 있도록 지원을 아끼지 않으며, AI 혁명을 이끌어 간다는 계획이다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • 서울시 영등포구 여의서로 43 (여의도동 한서리버파크 빌딩) 916호
  • 대표전화 : 02-780-8101~2
  • 팩스 : 02-780-8103
  • 청소년보호책임자 : 김 순기
  • 법인명 : 테크데일리 주식회사
  • 제호 : 테크데일리(TechDaily)
  • 등록번호 : 서울 아 05225
  • 등록일 : 2018-06-01
  • 발행일 : 2018-06-01
  • 발행인 : 문 창남
  • 편집인 : 김 순기
  • 테크데일리(TechDaily) 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2021 테크데일리(TechDaily). All rights reserved. mail to news@techdaily.co.kr
ND소프트