[최재홍의 Tech Talk, IT Trend 읽기] NVIDIA AI Conference 2018

11월 7일, NVIDIA가 ‘NVIDIA AI Conference 2018’을 개최했습니다. (http://blogs.nvidia.co.kr/2018/11/08/nvaiconference18/) NVIDIA는 작년 이맘 때 NVIDIA Deep Learning Day 2017‘이라는 타이틀로 국내에서 처음으로 컨퍼런스를 시작했습니다. 올 해는 3천명이 훌쩍 넘는 개발자들이 참석했습니다. 

(제가 덧붙은 내용은 Italic으로 표시했습니다.)

[Link 1. ‘NVIDIA Deep Learning Day 2017’ ]

오전에는 두 개의 Keynote session, 오후에는 6개 트랙 (Deep Learning & AI, Autonomous Driving, HPC / Supercomputing 등) 47개 Tech session이 진행되었습니다. 

[Video 1. ‘GTC 2018 - I AM AI’ 출처: NVIDIA Korea YouTube Channel (https://www.youtube.com/watch?v=z2jAv3BN3B4)]

NVIDIA Korea의 유응준 대표는 오프닝을 선언하면서, AI의 성공 조건 세 가지를 꼽았습니다. 많은 데이터, 데이터를 처리할 수 있는 정교한 Algorithm, 그리고 Algorithm을 실행할 수 있는 GPU Process입니다. 이제 세 가지가 충족되고 있으나, 개발하고 운영할 수 있는 엔지니어어가 부족하고, 지속적인 육성이 필요함을 강조했습니다. 

마침 비슷한 시기에 Microsoft의 CEO인 Satya Nadella가 방한했습니다. 그는 ‘데이터 확보’의 중요성을 강조했는데, 데이터가 확보되지 않으면 Algorithm의 개발도, 가치 창출도 어려운 시대가 되었다는 것입니다. 생각해 보면 분석의 가치가 있는 대량 데이터를 확보하는 일부터가 결코 쉬운 일이 아닙니다.

Accelerated Platforms: The Future of Computing, Marc Hamilton, VP of Solutions Architecture & Engineering

Deep Learning 리서치가 증가하고 있습니다. ‘Tesla V100 Tensor Core’는 Deep Learning과 HPC High Performance Computing 을 위한 가장 강력한 GPU입니다. (https://www.nvidia.com/en-us/data-center/tesla-v100/) 5,120개의 CUDA Cores로 구성되어 있으며, Transistor는 211억 개에 달합니다.

Tesla T4 Tensor Core GPU는 CPU에 비해 Inference 성능이 최대 40배 높습니다. (https://www.nvidia.com/en-us/data-center/tesla-t4/) TensorRT 5는 Inference optimizer, Compiler 등을 제공하며, NVIDIA Docker 위에서 여러 Inference model을 번거로운 Deploy 없이 수행할 수 있습니다. (https://developer.nvidia.com/tensorrt)

Porsche 911이 70주년을 맞았습니다. 자동차의 디자인을 위해서는 먼저 컴퓨터 모델을 만들고, 색상과 앵글 등 속성을 바꿔 가면서 디자인을 수정합니다. 문제는 수정된 속성을 실시간으로 확인하기가 어렵다는 점입니다. NVIDIA는 실시간 ‘Ray Tracing’을 가능케 해 Simulation이 마치 영화의 한 장면처럼 구현될 수 있도록 했습니다. (https://developer.nvidia.com/discover/ray-tracing)

 

[Video 2. ‘NVIDIA Turing Brings Real-Time Ray Tracing to Epic Games Unreal Engine’ 출처: NVIDA YouTube Channel (https://www.youtube.com/watch?v=iRpRr4oehgY)]

최근 미국의 ORNL ^{Oak Ridge National Laboratory} 은 수퍼 컴퓨터를 만들었습니다. 한 Node 당 6개의Volta GPU를 넣어 총 27,648 GPU를 구성했습니다.

Data Science를 위해 ‘RAPIDS’를 활용할 수 있습니다. In-memory data structure인 Apache Arrow 위에 cuDF, cuML 등을 올려 데이터 분석에도 GPU의 속도를 십분 활용할 수 있도록 했습니다.

Deep Learning Searches Gravitational Waves, 국가수리과학연구소 오정근 박사

천문학에도 AI와 HPC 활용도가 높아지고 있습니다. 2015년 9월, 최초로 중력파 ^{Gravitational Waves} 가 감지되었습니다. 미국이 거대 간섭계를 설치하고, 우주 신호를 10년 간 받은 결과입니다. 블랙홀이 공전하며 중력파를 방출하다가 충돌해 하나의 중력파를 방출하게 됩니다. 블랙홀이 실제로 존재하는 증거가 되었으며, 쌍성으로도 존재함을 알게 되었습니다. 스스로 빛을 내지 않는 블랙홀이 중력파를 방출하지 않았다면 발견하지 못했을 것입니다.

별이 수축하면 별 전체의 구성 물질이 중성자인 중상자별을 만듭니다. 중성자별이 쌍성이 되어 충돌하면 중력파와 함께 빛도 방출됩니다. 주기율표 상 57번 이상의 무거운 원소들이 어떻게 생성되었는지 그 기원을 최근까지 알지 못했습니다. Kilonova를 분석해 보니 중성자 구성이 높았습니다. Kilonova와 GRB ^{Gamma Ray Burst} 가 별개 현상이 아닌 하나의 천체 현상임을 알게 되었습니다.

LIGO 분석은 전파 간섭, 지진 같은 환경 잡음으로부터 신호를 추출해 내는 것이 관건이었습니다. Classification으로 상관성을 분석해 진짜 신호 여부를 확인했습니다. ANN, Random Forest 등의 기법을 활용했습니다.

 

Deep Learning in Healthcare: Myths and Realities, 경희사이버대학교 정지훈 교수

Google의 ‘Diabetic Retinopathy Diagnosis’ (https://ai.googleblog.com/2016/11/deep-learning-for-detection-of-diabetic.html) 는 AI를 의학에 활용한 대표적 사례입니다. 우리가 생각하는 것보다 AI가 적용되는 Healthcare 도메인의 범위가 넓습니다. 즉, 다루는 문제도, 데이터도, 기술도 다르므로 다양성이 필요합니다. 유전자 데이터는 그래프를, 이미지는 CNN을, Diagnosis prediction은 RNN을 주로 활용할 수 있습니다.

‘HealthData.gov’ 등 공개 데이터가 많습니다.

“Why 98% of Digital Health Startups Are Zombies And What They Can Do About It” 

Forbes의 기사 제목처럼한 두 가지 기술로 모든 문제를 해결할 수 없습니다. 엔지니어들만으로 문제를 해결하고 의사들의 생각을 바꿔 놓기도 어렵습니다.

David Sontag 교수는 Healthcare가 다른 영역에 비해 어려운 점들을 다음과 같이 설명하고 있습니다. 

       Life or death decisions

       Many questions are about unsupervised learning

       Very little labeled data

       Lots of missing data, varying time intervals, censored labels

Machine Learning for Healthcare: Introduction, David Sontag, Clinical Machine Learning Group, MIT (http://people.csail.mit.edu/dsontag/courses/mlhc_summer18/day1/intro.pdf)

좋은 데이터를 고객에게 먼저 제공하면 고객은 활용 가능한 양질의 데이터를 주기 마련입니다. 그런 데이터가 모이면 리서치를 수행할 수 있습니다. 즉, 고객이 누구인지, 이해 당사자가 누구인지를 잘 알고 사업을 진행해야 합니다.

Evolution of Artificial Intelligence Robots and Social Change, 한양대학교 한재권 교수

최근 로봇 영역 논문 중 상당 수는 Machine Learning 활용을 다루고 있습니다. 초기 단계라 아직은 많은 연구와 노력을 필요로 합니다. 

2016년에 한재권 교수님의 강연을 재미있게 들었던 적이 있었습니다. 이번 강연에서도 ‘DARPA Robotics Challenge’를 다루셔서 그 때 정리했던 글로 대신합니다.

[Link 2. ‘로봇이 변화시킬 세상을 말하다’ ] 

실업 문제에 관해서는 새로운 일을 어떻게 제공하는가가 중요합니다. 노동자의 시각에서 이 문제를 바라봐야 합니다. 직업은 변화하고 있습니다. AI, 로봇과 경쟁이 아닌 협업을 해야 합니다.

 

NVIDIA Autonomous Driving Platform Update, NVIDIA 차정훈 상무

NVIDIA의 자율 주행 기술인 ‘NVIDIA DRIVE’는 Hardware, Software, Simulation으로 구성되어 있습니다. 각각 NVIDIA DRIVE AGX, NVIDIA DRIVE Software (DRIVE AV, DRIVE IX, DRIVE AR), NVIDIA Drive Constellation입니다. 

NVIDIA의 자율 주행 플랫폼은 DRIVE AGX입니다. 핵심 칩인 Xavier는 자율 주행용 프로세서로, 90억개의 트랜지스터가 있습니다. (https://blogs.nvidia.com/blog/2018/01/07/drive-xavier-processor/) 

DRIVE Constellation은 두 가지 서버에서 수행됩니다. 하나는 DRIVE Sim software를 실행하게 되는데, 카메라, Lidar, Radar 같은 센서를 Simulation 합니다. 또 다른 하나는 Simulation 한 센서 데이터를 Input으로 받아 Processing 하는 역할을 수행합니다.

GTC

올 해는 좀 더 다양한 영역의 이야기들을 들을 수 있어서 매우 흥미로웠습니다. 이제는 NVIDIA, GPU, Deep Learning이 영역을 불문하고 그 쓰임을 확대해 나가는 것을 분명히 볼 수 있습니다. NVIDIA의 성장세는 이변이 없는 한 멈추지 않을 것 같습니다. 언젠가 기회가 된다면 GTC에 참석해 보고, NVIDIA 견학도 해 보고 싶다는 생각이 들 정도로 매력 있는 Conference였습니다.