기업들은 디지털 트렌스포메이션(DX)과 코로나 펜데믹의 영향으로 인프라와 다양한 애플리케이션의 요구에 따른 향후 5년 동안 인공지능 및 머신러닝이 더욱 정교해질 것으로 예상된다.

이러한 변화는 인간 개입에 대한 의존도를 줄이고 환경이 변화하는 리소스 요구를 자동으로 예측하고 동적으로 적응할 수 있도록 하는 능력을 활용할 것이다.

여기에, 5G 및 IoT 기술이 발전하면서 엣지에서의 데이터가 폭발적으로 증가하고 있으며, 시장조사 기업 밀리언 인사이트(Million Insights)에 최근 보고서에 따르면 오는 2027년까지 전 세계 엣지 컴퓨팅 시장은 434억 달러(약 51조3천억원)에 이를 것으로 예상된다.

자율주행차, 드론, 감시 카메라 및 의료 IoT 기기에서 정보를 얻으려면 엣지에서 실시간 인공지능 모델의 추론은 필수적이다. 또한 공정성, 설명 가능성, 프라이버시 보호 측면에서 법적·공공 정책 분야의 발전이 이루어질 것이다.

궁극적으로 클라우드 자동화 분야에서 새롭게 발생하는 플랫폼과 도구는 소프트웨어로 정의될 것이며, 디지털 인프라 개발, 관리, 소비 및 보안 부문의 큰 발전을 이루어낼 것으로 전망된다.

기업이 더욱 정확한 AI/ML 모델을 구축하기 위해 퍼블릭 클라우드, 데이터 브로커, IoT 기기와 같은 외부 데이터를 활용해야 할 필요성이 점점 커지고 있다.

그러나 데이터 제공업체는 소비자가 허가 받지 않은 용도로 사용할 수 있는 원본 데이터를 공유하기를 주저해 왔다. 마찬가지로 데이터 소비자는 보안, 편향성 및 품질상의 이유로 외부 자료로부터 얻고 있는 데이터와 모델의 출처에 대해 염려하고 있다.

기업은 AI 시장에서 안전하고 개인 정보를 보호하는 방식으로 여러 당사자와 데이터와 알고리즘을 거래할 것이며, 소비자가 데이터와 AI 모델의 출처를 추적할 수 있도록 AI 시장은 점차 블록체인을 기반으로 운영될 것이다. 또한 원본 데이터가 절대 외부로 유출되지 않는 중립 위치에 안전한 공간을 제공하여 제공업체가 데이터를 지속적으로 제어할 수 있도록 지원한다.

엣지에서 생성된 데이터가 증가할수록 프로세싱을 위해 데이터를 중앙 집중화된 위치로 이동시키는 것은 비용 효율성과 성능이 떨어진다. 또한 개인 정보 보호 및 규정 준수를 위해 데이터를 기업/국가의 보안 경계 내에 유지하는 것도 매우 중요하다.

향후 5년 내로 데이터, 지연 시간 및 개인 정보 보호는 AI 아키텍처를 중앙 집중형 모델에서 분산형 모델로 전환해 분산형 AI 오케스트레이터와 제어 영역을 표준으로 만들어질 것이다.

불과 몇 년 전과 비교했을 때 1000배 더 크고 약 1000배 더 강력한 컴퓨팅 성능이 필요한 데이터 셋을 사용하는 복잡한 문제를 해결하기 위해 AI가 점점 더 많이 활용되고 있다.

기업이 원본 데이터를 중앙 위치에 전송하는 대신 알고리즘을 엣지로 분산하면서 모델 학습이 엣지에 분산된 컴퓨팅 기기의 분산형 시스템에서 구현되는 연합 AI/ML 시대로 진입하고 있다.

또한 모델을 엣지에서 학습시킨 다음 모델 가중치만 집계 위치로 전송하여 글로벌 AI 모델을 구축함으로써 비용과 지연 시간을 줄이고 데이터 프라이버시를 보호한다.

향후 5년 동안 이러한 복잡한 AI 문제를 처리하기 위해 웨이퍼에 수십만 개의 코어를 배치하는 훨씬 더 강력하고 밀도 높은 AI 모델 학습용 하드웨어 솔루션이 등장할 것이다.

이 차세대 AI 학습용 하드웨어는 랙당 40KW 이상의 전력을 소비하기 때문에 보다 전력 효율이 높고 더 나은 AI 추론 처리량을 제공하는 AI 추론을 위한 ASIC/FPGA 기반 솔루션이 등장할 것으로 예상된다.