젠슨 황 키노트 인사이트 – 컴퓨텍스 2024 기조연설

젠슨 황 키노트 인사이트 정리가 새롭게 발표된 루빈이나 100조 시장 규모보다 중요하다고 생각합니다.

앞으로 생성형 AI가 다음 세대의 산업변화를 이끌어 나갈 중요 동력이라면 단순 몇년안의 로드맵이나 시장 규모 보다는 그가 가진 20년 동안의 경험과 현재 AI 업계에서 가장 중추적인 역할을 하고 있는 회사의 CEO로서의 인사이트가 현재의 상황 그리고 앞으로 벌어질 미래에 대한 중요한 방향을 제시할 수 있다고 믿기 때문입니다.

향후 컴퓨터 산업의 주요한 2가지 기반

Accelerating computing과 Artificial intellignece가 향후 컴퓨터 산업의 주요 기초가 될 것이라고 기조 연설을 시작합니다.

기조 연설전 엔비디아의 솔루션으로 제작된 여러 시뮬레이션 영상이 펼쳐집니다.

1964년 IBM이 선보인 퍼스날 컴푸터를 지나 아이폰이 탄생시킨 모바일 클라우드까지의 변화로 이루어진 세상이 현재 컴퓨터 산업 업계의 핵심입니다.

그러나 그동안 컴퓨터 산업을 이끌었던 CPU의 성능은 어느새 정체되기 시작했습니다.

우리가 필요로 하는 계산양은 무어의 법칙과 같이 계속 증가 되었으며 아직까지도 현저하게 증가될 예정입니다.

이러한 계산 용량을 CPU로만으로 따라가려면 이른바 컴퓨테이션 인플레이션이 발생하게 됩니다.

이제는 새로운 컴퓨팅 패러다임이 필요

따라서 우리는 새로운 컴퓨팅을 정의할 변곡점에 도달하였으며 CUDA구조에 기반한 GPU accelerated computing이 새로운 시대를 열 수 있는 컴퓨팅 아키텍쳐라고 이야기 합니다.

현재의 어플리케이션들은 많은 양의 계산을 필요로 하며 이러한 계산을 하기 위하여 100단위 시간이 CPU에게 필요하다면, GPU에 기반한 병렬처리는 계산에 필요한 시간을 1단위 시간으로 줄일 수 있다고 강조합니다.

여기에서 이른바 젠슨황의 CEO math로 GPU병렬처리로 얻게 될 수 있는 편익을 설명합니다.

• 3배의 전력 소모 및 1.5배의 비용 추가 = 100배의 성능향상
• 달러 당 60배의 성능 향상 (98% 비용 절감)
• 와트 당 30배의 성능 향상 (97% 비용 절감)

많이 살수록 많이 절감할 수 있습니다.

젠슨 황, Computex 2024

젠슨 황 키노트 – 새로운 컴퓨팅 패러다임의 장애물

그러나 모든 것이 쉽게 진행될 수는 없습니다.

그동안 직렬 혹은 순차적 처리를 하는 CPU에 맞게 작성된 소프트웨어를 병렬 처리GPU에서 동작할 수 있도록 바꾸어 주어야 합니다. 알고리즘을 포함해서 완전히 바꾸어야 하죠.

이렇게 어려운 소프트웨어 변경을 지원하기 위해 엔비디아가 그동안 개발해온 여러가지 CUDA 라이브러리 생태계를 소개합니다. (개인적으로도 이 부분이 진정한 엔비디아의 강점이라고 생각합니다. 젠슨황도 연설에서 바로 이 자산들이 자신들의 보물이라고 이야기 하며 이러한 라이브러리들이 350가지가 있다고 이야기 합니다.)

2012년은 Alexnet을 연구하던 AI 연구자들이 Nvidia를 사용하기 시작한, Nvidia입장에서는 새로운 가능성과 조우한 해입니다.

그 이후로 유명한 OpenAI와의 만남, 구글의 Transformer 모델 발명이 있었습니다.

젠슨 황 키노트 핵심 – AI 팩토리

ChatGPT가 세계에 선보이기 전까지는 AI는 이른바 인식(Perception)을 하는 수준이었으나 이른바 생성형 AI가 모든 것을 바꾸어 놓기 시작했습니다.

생성형 AI는 한 번에 하나씩의 “토큰”을 만들어 냅니다.

토큰은 단어도 될 수 있고 이미지도 될 수 있고 차트도 될 수 있고 노래가 될 수도 있습니다.

어떠한 사물이든 인간이 학습하여 의미를 알 수 있는 것은 토큰이 될 수 있습니다.

여기에서 그가 강조하는 “AI 공장(Factory)”의 개념이 등장합니다.

작은 수퍼컴퓨터로 시작하는 그들의 솔루션이 이제는 데이터 센터에 적용됩니다.

이 데이터 센터는 생성형 AI의 계산과정을 통해 인간이 인식하고 학습할 수 있는 모든 사물들, 자동차를 운전하기 위하여 핸들을 조향하는 일, 로봇의 팔의 움직임, 1평방제곱Km안에서 연속적으로 변하는 기후 예측등, 이른 바 토큰화 될 수 있는 모든 지식들에 대한 토큰들을 생산해 냅니다.

앞으로의 데이터 센터는 아닌 새로운 산업 혁명에 필수가 되는 “토큰”을 생성해 내는 공장으로 변모하게 될 것이며 엔비디아의 미션은 모든 산업이 이러한 변화의 연장선상에서 혜택을 받을 수 있도록 원활한 인프라를 제공해 나갈 것이라는 포부를 밝혔습니다.

마치며

니콜라 테슬라가 교류 발전기로 전자를 만들어 내어 전세계의 산업 구조를 변경시킨 것처럼 엔비디아의 GPU와 소프트웨어들은 “토큰”이라고 하는 새로운 재화를 만들어 낼것입니다.

이러한 변화는 단순히 IT 업계에만 변화를 일으키는 것이 아니라 이른바 새로운 산업혁명을 불러 일으킬 것입니다.