GPU가 AI 연구에 왜 중요할까?

AI 시대가 빠르게 다가올 수 있었던 것은 GPU(Graphic Process Unit) 덕분이다.

 

Photo by Caspar Camille Rubin on Unsplash

 

 

GPU란?

• Graphic Process Unit, 그래픽 처리 장치
• 컴퓨터 그래픽 가속을 담당하는 칩
• PC 역사에 1980년대에 첫 등장

주요 기능은 여전히 최신 인기 게임의 그래픽과 점점 생생 해지는 비주얼이긴 하지만, 최근에는 범용적인 병렬 프로세서로도 발전하여 점점 더 다양한 응용 프로그램을 처리하고 있다.

 

 

GPU가 AI 연구에 왜 중요할까?

복잡한 AI 소프트웨어를 구현하기 위해서는 높은 성능의 하드웨어가 필수적이다. 자연어 처리나 머신 비전과 같은 AI 모델에서는 프로세서 병렬 연산 속도가 얼마나 빠르냐를 기준으로 성능을 구분한다. 그렇기 때문에 컴퓨터 그래픽을 빠른 속도로 처리하기 위해 만들어진 GPU의 차이가 AI에서 컴퓨팅 파워를 구분하는 기준으로 CPU보다 자주 언급되고 있다. 복잡한 3D 그래픽을 처리하는데 필요한 연산 능력, 특정된 많은 계산을 동시에 처리하는 목적으로 만들어진 탓에, 포괄적인 컴퓨팅을 처리하는 CPU와 달리 제어 영역을 빼버렸다.

 

또한 GPU는 가장 대표적인 병렬 연상 가능한 프로세서이다. 그리고 딥러닝은 빅데이터를 바탕으로 모델 부피를 키워 성능을 높이는 시스템이다. 특정된 연산을 수없이 계산해야 한다. 직렬 처리 방식의 CPU로는 대량의 반복 학습을 한꺼번에 처리하기에 느릴 수밖에 없다. 딥러닝 알고리즘은 GPU 가속화 접근 방식을 채택하도록 발전했으며, 이를 통해 성능이 크게 향상되었다. CPU와 다른 근본적인 구조가 GPU의 자리를 공고히 한 것이며, 그래픽 처리를 위해 개발된 병렬 처리 구조의 컴퓨팅 칩이 우연찮게 미래 인공지능 구현을 위한 핵심 기술 연산에 잘 맞아떨어지게 된 케이스이다.

 

GPU와 CPU의 차이를 이해하는 간단한 방법

 

 

인공지능 기계학습에서 CPU와 GPU의 성능 격차가 잘 드러난 사례

2012년 AI 분야의 세계적인 권위자인 앤드류 응(Andew Ng) 교수는 구글과 협력해 CPU 서버 1000개를 병렬로 연결한 딥러닝 인프라 '구글 브레인(Google Brain) 신경망 시스템을 개발했다. 

이 시스템은 유튜브에서 3일간 추출한 200x200 해상도의 이미지 1000만 개를 분석해 그중 고양이 이미지를 정확히 찾아내는 인지 능력을 보여줬는데, 구글 브레인은 아직 알파고도 등장하지 않았던 시절 딥러닝이 지닌 미래의 가능성을 일부나마 보여준 획기적인 제품이라고 볼 수 있다. 

그러나 문제는 너무 비싼 운영 비용이었다. 당시 구글 브레인 시스템은 CPU 서버 1000대를 구입하기 위한 하드웨어 가격으로만 무려 50억 원 정도가 필요했으며, 운영을 위해서는 다시 60만 와트(W)에 달하는 엄청난 전력을 공급할 수 있어야 했다. 사실상 극히 소수의 대기업만 운용할 수 있는 꿈의 시스템이었던 셈이다.

하지만 이후 엔비디아가 자사의 GPU 가속화 서버 3대면 구글 브레인과 동일한 성능을 낼 수 있다고 주장하며 해당 사실 여부에 대한 한바탕 확인 논란이 있었다. 이에 구글 브레인 개발에 참여했던 앤드류 응 교수가 엔비디아와 함께 직접 검증에 나섰는데, 놀랍게도 엔비디아의 주장은 사실로 드러났다.

심지어 비용도 훨씬 저렴했다. 구글 브레인 수준의 GPU 서버 구축 비용은 고작 3300만 원 수준이었으며, 전기 소모량도 4000와트에 불과했다. 엔비디아는 해당 내용을 2013년 국제기계학습 학술대회(ICML)에서 공개했다.

이후 GPU는 AI 연산 부문에 있어 완전한 대세로 떠오르게 된다. 이 같은 움직임은 인공지능의 비전 인식 성능을 겨루는 글로벌 경진대회 이미지넷(ImageNet)에서도 확인할 수 있는데, 2013년 당시 참가 기관 중 일부는 여전히 GPU 대신 CPU를 사용하고 있었지만 논문이 공개된 이후 2014년 대회에서는 모든 참가 기관이 GPU를 사용한 것으로 알려졌다.

 

 

---

 

Reference

[AI칩러닝] AI의 핵심, GPU… 딥러닝의 유행을 불러오다 ①

CPU와 GPU 비교: 차이점 알아보기

인공지능 시대를 여는 열쇠, GPU란?

새 시대의 GPU, 그리고 인공지능

GPU는 게임할 때만? NO! 인공지능 딥러닝의 필수요소 GPU