한상욱 대보정보통신 ABC(AI Bigdata, Cloud) 센터장

 

GPU(Graphic Process Unit 그래픽카드)의 사전적 의미는 '그래픽 처리 장치로 메모리를 빠르게 처리하고 바꾸어 화면으로 출력할 프레임 버퍼 안의 영상 생성을 가속하도록 설계된, 전문화된 전자 회로'(위키백과)라고 되어있다. 하지만, 실제 GPU의 사용범위를 기준으로 들여다볼 때 이 정의는 GPU 전체의 기능적 측면에서나 사용 환경적 측면에서 30%도 충족하지 못하는 정의이며 더 중요한 것은 시간이 지나면 지날수록 앞서 언급한 정의가 GPU를 담아내기에는 역부족이라는 개인적인 생각도 해 본다. 이에 필자는 여기서 좀 더 명확한 GPU의 사용범위와 그에 따른 작업환경의 변화를 통해 생산성 향상과 안정적인 사용 환경 구성의 올바른 제안을 해보려 한다.

1. GPU는 어떤 종류가 있을까

GPU는 그 용도에 따라 가시화 (Visualization)용과 가속기 (Accelerator-GPGPU)용 두 가지로 나누어 볼 수 있다. 이렇게 나누어진 것을 다시, 사용하는 응용 프로그램(Application)에 따라 가시화 용은 Quadro(Open GL)와 Geforce(Direct X)로 가속기용은 Tesla(병렬컴퓨팅)와 DGX(인공지능)로 크게 나누어 볼 수 있다. 

 

제품 모델은 엔비디아 제품을 기준으로 언급했으며, 타사 제품에 대한 정보는 아래(표 1)을 참고하면 된다.        

 

(표 1) 엔비디아 GPU 용도별 구분 

 

GPU 용도별 구분 

물론, GPU도 제품의 사양과 지원하는 성능에 따라 모델과 가격이 다양하며, 각각의 작업환경에 적합한 제품을 선정하여 사용하는 것이 작업의 생산성, 안정성 및 효율을 높여주는 최선의 방법임을 염두에 둬야 한다.   

2. 어떤 GPU를 사용해야 할까

자동차를 예를 들어보자. 사람이 이동할 때 사용하는 용도를 포함해 짐을 실어 나르는 용도 혹은 건설을 비롯한 기타 특수 목적의 장치 차량 등 자동차는 그 용도에 따라 알맞게 선택하여 사용하게 된다. 용도에 부적합한 차량을 사용하게 되면 안정성이나 효율성이 떨어지게 되고, 결국 원하는 목적을 달성하기 힘들어지게 된다. 아무리 비용이 저렴하다고 해서 승용차로 컨테이너를 실어 나를 수는 없는 일 아닌가. GPU도 마찬가지다. 

 

 (표 2) 엔비디아 GPU Products List

 

사용하는 응용 프로그램의 용도에 맞는 GPU를 선택하고 최적화된 환경에서 사용하는 것이 작업의 효율을 높이고 목적을 달성하는데 매우 중요한 몫을 차지하게 된다.- (표 2) 엔비디아 GPU Products List 참고 -

간혹, 가시화 장비를 가속기로 사용한다거나 가속기를 가시화로 활용하려는 작업의 목적과는 다른 이해할 수 없는 기준의 가성비 논리가 작용하는 경우를 자주 목격하게 된다. 가성비는 어디까지나 목적을 충실히 달성한다는 최소한의 방향성이 유지되는 범위 내에서 분석하고 선택돼야 한다고 생각한다.  

3. GPU 어디서 어떤 제품을 얼마나 쓰고 있을까

게임 분야에서의 엔비디아의 Geforce와 AMD의 Radeon의 불꽃 튀는 전쟁은 90년대 후반(당시 AMD 사는 ATI 사 였음)부터 지금까지 진행되고 있으며, 게임 성능 측면에서 보면 엔비디아 제품군이 전반적으로 선두를 차지하고 있다. Direct X 엔진 기반으로 개발된 콘텐츠를 즐기는 사용자라면 여기에 속한다. 또한, 전력소비와 효율성 측면에서도 대체적으로 엔비디아 제품이 좋은 점수를 받고 있다.

산업용 콘텐츠((Enterprise Graphics)를 개발하는 시장에서 엔비디아의 Quadro와 AMD의 Fire GL은 엔비디아의 Quadro가 독식하고 있는 분야로 게임 시장에 비하면 싱거운 결과를 보여주고 있다. 주로 Open GL 기반의 응용 소프트웨어와 최적화되어 3D 디자인, 모델링, 렌더링 등 영상 콘텐츠 개발 및 건축, 구조물, 제품 설계 등에 사용되는 전문가용 워크스테이션 사용자라면 여기에 속한다. 요즘은 VR / AR / MR 콘텐츠의 개발 및 운영에도 활발히 사용되고 있는 제품군이다.

계산용 GPU인 GPGPU(General-Purpose computing on Graphics Processing Units, GPU 상의 범용 계산)는 일반적으로 그래픽 처리를 위한 계산 영역 부분을 주로 담당하던 그래픽 처리 장치(GPU)를 기존 중앙 처리 장치(CPU)가 맡았던 응용 프로그램들의 계산에도 사용하는 기술이다. 이를 가능하게 한 것은 프로그램 가능한 부분과 고정밀도 연산을 그래픽 파이프라인에 연결하는 효과적인 API(대표적으로 엔비디아 CUDA, 2006)들이 개발되었고 이를 통하여 소프트웨어 개발자들이 그래픽이 아닌 데이터에 스트림 프로세싱을 사용할 수 있게 되면서 본격적으로 확산되기 시작했다. 

 

2020년 6월 기준, 전 세계 슈퍼컴퓨터 순위 상위 10위 중 6곳이 엔비디아 GPGPU (Tesla 시리즈) 제품을 기반으로 운영되고 있고, 최근 몇 년 동안 CPU 기반의 시스템 대비 GPU 시스템의 소비전력당 성능은 물론 절대 성능에서도 우위를 보여 전 세계 슈퍼컴퓨터 Top500 순위와 점유율을 지배하고 있다. 이 기세는 당분간 지속될 것으로 예상된다.

 

(표 3) 세계 슈퍼컴퓨터 가속기 점유율 – 출처:Top500.org(2019)

4차 산업혁명이라는 시대적 광풍의 기류를 타고 계산용 GPU인 GPGPU의 또 다른 큰 축으로 떠오른 분야가 바로 AI(인공지능) 가속기 분야이다. 빅데이터의 영향 즉, 많은 데이터를 효율적으로 분석하기 위해 필요한 인공지능(AI) 가속기는 학습(Training)영역과 추론(Inference)영역으로 구분되어 그 용도에 맞게 사용되는 전용 반도체를 말한다. 

 

이 분야에서도 엔비디아의 지배력은 매우 높으며, 특히 딥러닝 기반의 학습기 영역에서는 엔비디아가 개발한 통합 시스템(Appliance System)인 DGX 시리즈가 표준 시스템으로 인정받고 있는 추세다. 또한, 4대 클라우드에 사용되는 AI 가속기의 97%를 엔비디아가 점유하고 있으며, 뒤를 이어 AMD 1%, 자일링스 FPGA 1%, 인텔(알 테라 FPGA) 0.6% 순이다.(표 4)

(표 4) 4대 클라우드 가속기 점유율(출처-리프터, 2019년 5월) 

시장조사업체 트랙티카에 따르면 AI 기반 하드웨어 및 소프트웨어 인프라에 대한 전세계 시장은 2016년 35억 달러(약 3조 8천억 원)에서 2025년까지 1,154억 달러(약 124조 6천억 원)로 성장할 것으로 전망했다. 이는 향후 5년 동안 30배 이상 시장이 확대될 것이라는 의미이다.

 

 

(표 5) 인공지능 하드웨어 지역별 시장 2016~2025(출처:트랙티카)

 

4. 마치며

올 초, 포브스지는 2020년대 10년 동안 가능성이 클 것으로 여겨지는 25가지 핵심 기술을 소개했다. 대부분은 현재까지 언급되거나 소개됐고, 기술 발전이 상당 수준 이루어진 분야도 있다. 대체로 4차 산업혁명이라는 개념 속에서 논해졌던 인공지능(AI)이나 5G, 증강현실 등이 순위에 포함되어 있다. 이러한 4차 산업혁명의 핵심에는 데이터가 있고 이 데이터를 어떻게 효과적으로 활용할 것인가에 따라 성패를 좌우하게 될 것이다. 

 

데이터의 분석과 활용 측면에서 보면 방대한 양의 데이터를 필요한 상황에 맞춰 사용하기 위해서는 탁월한 연산 능력을 갖춘 보다 강력한 컴퓨팅 파워가 필요하다. 20개 이상의 연산 코어를 추가하기 위해 서버 시스템을 도입하고 데이터 센터에 구축하여 운영 관리해야 하는 기존 CPU 기반 시스템에 비해 GPU는 1개의 PCI x16 Type 카드가 5,000개가 넘는 연산 코어를 바탕으로 병렬 컴퓨팅에 최적화되어 있으며 확장이 매우 용이하여 연산 시스템으로의 GPU의 사용은 어찌 보면 당연한 수순이라 할 수 있다. 

 

앞에서 언급했던 것처럼, GPU를 사용할 것인가 안 할 것인가가 아니라 어떤 GPU를 어떤 작업에 알맞게 사용할 것인가가 매우 중요하며 용도에 맞는 제품을 선택하는 것이 작업의 효율과 안정적인 작업환경 구축에 영향을 미친다는 것을 이해하고 올바른 선택을 하기 바란다.            

  

(참고 자료)

 

* 인공지능 신문 기사 – 2018년 07월 24일 자  제목:“인공지능(AI) 하드웨어 시장 오는 2025년 16조 원에 달할 것” 기사 중 (표 5) 인용