CUDA Story

NVIDIA가 믹구 태평양 시간 21일에 거행한 GTC 2010에서, NVIDIA의 창시자이자 CEO인 젠슨 황이 개막 연설이었습니다. 강연 주제는 여러 부분으로 나뉘었는데 앞으로 NVIDIA가 목표하는 발전 방향, GPU 어플리케이션과 시장의 기회, CUDA 병렬 연산 기술의 발전 상황에 대한 것이었습니다.

NVIDIA는 2007년부터 처음으로 CUDA 기술을 사용하는 GPU 마이크로 아키텍처 테슬라(Tesla)를 그래픽 영역과 평행 영산과 개인용 PC 어플리케이션 영역에 사용하기 시작했습니다. 지금은 CUDA 연산 프로그램 교육이 362개 대학교의 과목이 되었으며, 여러 3D 영상에서 NVIDIA GPU의 효과와 3D 영상 렌더링을 사용하고 있습니다.

젠슨 황은 GPU가 CPU를 대체할 수 없고, CPU와 공존 공영해야 한다고 하였습니다. 1978년에서 1986년 초까지, PC 연산 성능은 25%씩 성장해 왔지만, 1990년부터 2000년까지 매년 52%씩 연산 성능이 늘어났습니다. 그러나 200년부터 2006년 사이에는 연산 성능 발전이 정체되고 있는데, 이것은 전력 사용량, 메모리, 평행 영산의 병목 때문이며, NVIDIA GPU가 2007년부터 CUDA를 사용한 이후로, 성장율이 지속적으로 상승하고 있습니다.

CUDA로 고속 성장하는 PC 연산 성능

2010년은 CUDA에서 기념비적인 한 해입니다. 2009년에 CUDA SDK의 누적 다운로드는 29만3천번이지만 2010년에는 66만8천번이 되었으며, 테슬라 서버의 OEM 제조사는 2009년에 9곳에 불과했지만 지금은 19곳이 되었습니다. 또한 올해 GTC 2010에서 334개의 CUDA 어플리케이션 개발사가 등장했는데, 이것은 작년의 67곳보다 대폭 늘어난 것으로, GPU 어플리케이션이 현재 빠르게 보급되고 있으며 업계의 관심을 받음을 말해주는 것입니다.

젠슨 황은 CUDA 연산에서 이전에 없었던 혁신점을 발표했습니다. 계속하여 C 언어의 CUDA C 컴파일러를 지원함과 동시에, NVIDIA는 컴파일러 소프트웨어 개발사인 PGI와 같이 CUDA 포트란 컴파일러를 제공합니다. 이것은 x86 플랫홈에 맞춰진 CUDA 포트란 언어가 기존의 포트란을 개량하여 최적화한 것을 의미하며, 지금 포트란을 사용하는 프로그램들은 간단한 NVIDIA CUdA API를 사용하여 GPU 연산 가속이 가능해졌다는 것입니다.

동시에 Matalab의 CUDA용 가속 키트도 발표했습니다. 과학 연산에서 널리 쓰이는 연산 프로그램으로서 JAC 서버 테스트 프로그램에 따르면 192개의 쿼드코어 CPU 클러스터 서버에서는 하루 연산 성능이 46ns밖에 안됐지만, 8개의 페르미 아키텍처 GPU 서버에서는 매일 52ns를 처리할 수 있는 것으로 나왔습니다. 이 결과는 GPU를 사용하는 것이 더 높은 성능과 더 작은 공간, 그리고 전력 사용량을 더 줄여주는 것을 의미합니다.

8개의 페르미 GPU 연산 성능이 192개의 쿼드코어 CPU 클러스터보다 앞섭니다.

PGI의 CUDA 포트란 컴파일러

또한 3DMax에서 레이 트레이싱(Ray Tracing)을 사용하는 새로운 iRay 렌더링 클라우드 컴퓨팅을 선보였습니다. 사용자는 저가형 컴퓨터의 웹 브라우저에서 3D 영상의 광원 렌더링을 진행하며, 실제 연산은 클라우드 컴퓨팅으로 진행됩니다.

어도비는 사진의 초점을 수정하는 기술을 공개했습니다. NVIDIA CUDA를 사용하여 렌즈의 초점을 가상으로 연산해내 사진의 초점을 다시 구축합니다. 이런 처리에는 거대한 연산량이 필요하지만 NVIDIA CUDA를 사용하여 필요한 연산을 모두 수행합니다.

2007년에 첫 CUDA 아키텍처인 테슬라가 나온 이후, 2009년에는 페르미가 등장했습니다. 2011년 하반기에는 케플러가 나오는데 연산 성능이 6x가 됩니다. 2013년에는 메모리 아키텍처를 개선하고 우수한 제조 공정을 사용하는  멕스웰이 등장, CUDA 연산 능력을 16x로 높이게 됩니다.

● 2 째날 GTC도 성황

 
NVIDIA는 캘리포니아주 산호세 컨벤션 센터에서 GPU 컴퓨팅 기술 컨퍼런스 "Graphics Technology Conference (GTC)"를 개최하고 있다.

NVIDIA의 기술 컨퍼런스가 GTC라는 이름으로 이뤄지는 것은 이번이 2 번째이지만, NVIDIA는 IDF가 끝난 시기에 개최하는 기술 컨퍼런스로는 3 번째다.

2008 년 NVISION라는 다른 형태의 이벤트를 개최하고 있었기 때문이다. NVISION은 소비자도 대상으로 한 이벤트로, GPU 컴퓨팅뿐만 아니라 3D 그래픽 등을 포함하여 개최되고 있었다. 즉, NVIDIA의 제품으로 말하면, GeForce 및 Quadro이 주역이며 GPU 컴퓨팅도 거론되고는 있었지만, 그것은 GeForce 및 Quadro에 사용하기 위한 응용 프로그램의 1 개로 인식되었다.

그러나 GTC는 GPU 컴퓨팅을 메인으로 하고 있으며, 3D 그래픽 세션은 손에 꼽을 정도 밖에 없다. 그리고 컨퍼런스 내용도 더 깊어서 개발자에 초점을 맞춘 것으로 되어 있다.

그래서 작년에는 NVIDIA도 참가자의 감소를 예상하고, 회장을 산호세 컨벤션 센터에서 가까운 페어몬트 호텔로 위치를 변경했을 정도다. 그러나 뚜껑을 열어 봤을 때 GTC는 만원 상태. 서서히 컨퍼런스 티켓은 매진되고 많은 세션이 만원되는 등 GPU 컴퓨팅 기술자 들에게 인기있는 화제 거리라는 것을 잘 알게 되었다.

따라서 올해는 산호세 컨벤션 센터로 장소를 정해 다시 더 많은 개발자가 참여할 수 있도록 배려하였다. 그래도 만석을 이루어 올해도 GPU 컴퓨팅 열기는 식지 않았음을 알 수 있었다.

● 화제의 중심은 Tesla

NVIDIA 젠센 황 CEO

이번 GTC에서 GeForce와 Quadro을 제쳐놓고, 주역이 된 제품은 Tesla이다. Tesla는 HPC (High Performance Computing)을위한 제품으로, 데이터 센터 및 대학 등에 설치된 과학 연산을 빠르게 처리하기 위하여 이용된다.

황 CEO는 기조 연설에서 많은 Tesla 관련 제품을 발표했다. 지난해 GTC, NVIDIA는 Tesla의 브랜드와 Fermi (페르미)의 개발 코드명을 발표했지만, Fermi 는 아직 엔지니어링 샘플 상태에서 해당 소프트웨어 또는 OEM들이 제품은 발표하지 않았다.

하지만 올해는 "종이"상태에서 상당한 진전을 이루어 IBM, CARY HP, Dell 등 HPC를 제조하는 OEM 업체에서 구체적인 HPC를 발표하며 소프트웨어에 관해서도 Tesla에 해당하는 HPC 용 소프트웨어 가 다수 등장했다.

이번 GTC의 화제의 중심은 Tesla이고 Tesla 의 리얼 형태로 방문자의 앞에 모습을 드러낸 것이 이번 GTC이었다고해도 좋을 것이다.

전시회장에서는 Tesla 대한 솔루션이 다수 전시되었다

● CUDA Everywhere의 실현을 목표

그러한 사정도 있었고, 황씨의 강연도 GPU 컴퓨팅에 역점을두고 있었다. NVIDIA는 GPU 컴퓨팅 마케팅 브랜드로서 "CUDA"를 사용하고 있지만, 황씨에 의하면 NVIDIA의 목표는 "CUDA Everywhere"이다.

이것은 CUDA 가 Tesla 와 같은 HPC 영역뿐만 아니라 PC 서버, PC, 심지어는 Tegra를 지원하는 영역으로 확대한다는 뜻이다. "우리의 비전은 CUDA Everywhere이다. Tegra, GeForce, Quadr, Tesla에서도 CUDA의 응용 프로그램이 작동하게 된다"고 황씨는 말한다.

그러나 그것은 Tegra에서 Tesla까지 같은 바이너리가 움직인다는 것은 의미하지 않는다. "바이너리 호환성이 중요했던 것은 과거의이야기이다. 예를 들면, 소비자 영역에서 응용 프로그램의 배포는 인터넷 공간을 이용한 것이 주류가 되고 있다"고 지적, NVIDIA가 바이너리 호환이 아니라 프로그래머 수준의 호환성을 중시하고 있음을 강조했다.

NVIDIA의 CUDA는 OS 및 응용 프로그램에서의 로드가 NVIDIA의 GPU가 아닌 애플리케이션 프로세서가 지휘하는 구조로 되어 있다. GeForce와 Tesla의 경우, x86이고 Tegra 는 ARM이 된다.

즉, 바이너리 호환은 아니지만, 그것은 프로그래머가 프로그램을 컴파일하는 단계에서 어떤 CPU에 최적화할 것인가 선택하면 좋다. 여러 CPU를 지원하고 싶다면 프로그래머가 여러 바이너리를 제공하기 위면 된다는 얘기다.

물론 응용 프로그램은 어떤 환경에서도 움직이는 것이 최고라는 것은 말할 것도 없다. NVIDIA 에게 중요한 것은 CUDA가 프로그래머에게 받아들여지고 일반 프로그래밍 환경으로 이용되는 일이다.

소프트웨어 공급 업체 PGI가 CUDA - x86라는 컴파일러 발표

이번 GTC에서 NVIDIA GPU가 없는 x86 환경에서도 CUDA를 지원하는 응용 프로그램이 움직이는 컴파일러 "CUDA for x86"가 타사 PGI가 제공하는 것으로 밝혀졌다.

"불행히도 CUDA의 확장성은 아직 완벽하지 않습니다. 우리에게 중요한 것은 CUDA가 어떤 환경에서든 작동하는 것이며,이를 위해 CUDA for x86를 제공하기로 했다"고 황씨는 말한다.

그러나 "우리의 GPU는 CUDA 프로그램을 수 천 개의 프로세서에서 병렬로 실행할 수 있으며, 이것을 현재의 멀티 코어 CPU에 사용해도 큰 효과를 얻기는 어렵다"는 황씨가 인정하고 있는 것과 같이 CUDA 응용 프로그램을 x86 프로세서에서 달리게해도 성능상의 이점은 거의 없다. 움직인다는 이상의 장점은 별로 없는 것이 사실이다.

이 때문에, NVIDIA는 앞으로도 CUDA가 기본적으로 동작하는 환경을 늘려간다. 먼저 Tegra에 CUDA의 구현이 구체적인 예제가 될 것이다. 황씨는 "모바일 컴퓨팅에 GPU 컴퓨팅이 필요하게 된다. Tegra3 프로젝트는 대체로 종료하고 Tegra4은 현재 개발 중이다"고 말했다. CUDA를 구현하는 Tegra3 개발이 대체로 종료하고 있다는 것을 밝혔다.

또한 NVIDIA의 3D 입체 기술인 3D Vision을 Tegra에서 구현하는지 물어봤을 때 "지원 예정이다. 매우 아름다운 것"이라고 말했다.

● x86 기반 PC 사업은 앞으로 5 년이 생명

NVIDIA의 Tegra 시리즈는 NVIDIA GPU와 ARM 코어 CPU, 또한 I / O 컨트롤러를 1 칩에 탑재한 SoC 이다. NVIDIA는 x86 프로세서 사업에 참여하는가 궁금해 하는 팬들의 기자 회견과 매번 반복되는 질문에 대해 황씨는 명쾌하게 "노. 우리는 이미 ARM을 선택하고 있다"고 잘라 말했다.

황씨는 "iOS, Android, Windows Mobile 등 현재 많은 사용자들이 중요시하는 옵션이 현재 x86 프로세서의 성장은 멈춰 있지만, ARM은 급격하게 성장하고 있다. ARM 은 모바일 CPU로서 미래적이다."이라고 말한다.

타블렛의 성장에 관해서 묻자 "향후 엄청난 성장이 있다고 생각하고 있다. 지금 여기에 있는 기자 여러분은 폴더형 노트북 PC를 가지고 있지만, 향후 3 년간은 지속되다가, 5 년 정도가 지나면 대부분의 사람들은 타블렛을 들고 다니게 것이다. 나는 PC 업계의 명맥이 앞으로 5 년간 이라고 생각하고 있다 "고 말했다.

필자는 황씨의 견해에 100 % 동의하는 것은 아니지만, 가전 기기에서 ARM의 시장 점유율이 급속히 증가하고 있는 것에 이의를 제기할 사람은 아마 없을 것이다.

그러니까, Intel도 Atom 프로세서 사업에 주력하고 있으며, ARM과 x86의 줄다리기가 향후 5 년간 치열할 것이 틀림없을 것이다. 그 위에, CUDA가 보급되어 가면, NVIDIA가 차세대 Intel 위치를 대체할 가능성조차 제로는 아니다.

만약 NVIDIA가 의외로 Intel의 위치를 흔들리지 않았다 하더라도, CUDA HPC 시장은 가져갈 것이다. CUDA는 CPU 아키텍처에 의존하지 않으니까, 지금 그대로의 x86에서 CUDA를 달리고 GPU를 PC 제조 업체 등에 판매를 계속하면 좋은 것 뿐이다.

그런 의미에서 황씨가 취하고 있는 CUDA Everywhere라 는 전략, 실은 "확실하게 지지하고 있는" 전략이며, 게다가 이기면 그 수익은 매우 크다는 의미에서 현명한 전략이라 할 수 있겠다.