젠슨 황과 빛의 속도를 설계한 사람들

많은 사람들이 엔비디아를 떠올리면 하나의 얼굴을 그려낸다. 저마다의 머릿속에 떠오르는 이미지를 합하면 검은 가죽 재킷을 입고 여유로운 웃음을 짓는 은발 머리의 젠슨 황 엔비디아 최고경영자(CEO)의 형상이 완성될 것이다. 대중에게 ‘엔비디아는 곧 젠슨 황’으로 각인된 데는 기술 리더십을 가진 창업자의 압도적인 존재감이 영향을 미쳤다.
지난 3월에 진행된 엔비디아의 대표 행사인 GTC 2025에서도 젠슨 황은 무대 위의 록스타였다. 수많은 기술 개념들을 명쾌하게 정리하는가 하면 수학 계산까지 즉석에서 막힘없이 풀어내는 젠슨 교수의 면모를 보이기도 했다. 그간 실리콘밸리의 대표 개발자 행사로 꼽혔던 애플 세계개발자대회(WWDC)나 구글 I/O의 경우 팀 쿡 애플 CEO나 순다 피차이 구글 CEO 외에도 회사를 대표하는 여러 얼굴들이 등장해 바통을 이어 받으며 기조연설을 진행한 것과는 전적으로 다르다. 때문에 많은 이들의 시선이 젠슨 황만을 향한다. 그렇다고 해서 오늘날의 엔비디아가 젠슨 황 한 사람의 통찰력과 기술력으로 이 자리에 선 것은 아니다. 화려한 무대 뒤에는 그의 비전을 구체화하기 위해 헌신한 수많은 기술 리더들이 있다. 엔비디아의 진짜배기는 젠슨 황의 비전과 기술적 이해도를 철저히 동기화하고 헌신하는 인재들의 빽빽한 밀도에 있다. 이번 회에서는 엔비디아의 핵심 가치인 ‘빛의 속도(Speed Of Light)’를 설계하고 실행하는 사람들에 대해 다뤄보도록 하겠다.

절대 속도를 지향하는 ‘SOL’ 문화

젠슨 황이 ‘오버 커뮤니케이션’의 가능성을 무릅쓰고라도 자주 이야기하는 단어가 있다면 단연 ‘빛의 속도(SOL)’다. 여기서 빛의 속도는 단순히 빠른 실행 속도로 요약되지 않는다. 어떤 문제를 해결하려 할 때 ‘절대적인 속도’를 고민하는 태도를 의미한다. 절대적인 속도란 불변을 의미하고, 비교 대상에 따라 달라지지 않는다. 경쟁 업체와 비교한 상대적인 속도가 아닌 절대적으로 빠른 속도를 지향하는 ‘SOL’ 문화는 오늘날의 엔비디아를 만드는 데 크게 기여했다. 이는 엔비디아 구성원들이 입사 시기와 위치에 관계없이 어떤 문제를 해결하려고 할 때마다 제1원리 사고로 돌아가 ‘절대적인 속도’를 고민하는 태도가 요구된다. 
이를테면 신제품을 개발하거나 새로운 기술을 연구할 때 어떤 제약도 없을 때 나아갈 수 있는 ‘최대치’의 수준을 예상한다. 이후 예측한 최대치의 수준을 현재 투입 가능한 자원과 인력, 시장의 수용 정도들을 고려해 시뮬레이션을 거쳐 최종적으로 도달할 수준을 재조정한다. 이는 향후 5~10년간 경쟁자가 없다고 평가받는 엔비디아가 자체적으로 절대적인 기준을 만들어 내고 압도적인 우위를 지켜내는 이유가 된다. 엔비디아가 추구하는 빛의 속도가 있기에 동종 업계에서는 매번 혀를 내두르는 1년 주기의 새로운 아키텍처 공개 등이 가능해진다. 엔비디아만의 자부심의 원천인 ‘엔비디아 시간표(Nvidia schedule)’는 리더 한 사람의 사고방식만으로는 꾸준히 달성되기 어렵다. 이를 체화하고 실행할 수 있는 사람들이 있어야 가능하다.

젠슨 황의 과감한 인재 영입, 강력한 경쟁 우위 요소가 되다

지난 3월에 진행된 GTC 2025 전날에도 보이지 않는 곳에서 일하는 젠슨 황의 사람들을 확인할 수 있었다. 젠슨 황의 기조연설에 앞서 전 세계 취재진을 대상으로 두 시간 동안 미디어 브리핑을 진행한 이는 이안 벅 엔비디아 데이터 센터 총괄 부사장이었다. 그는 2004년 엔비디아에 입사해 21년째 일하고 있는 소프트웨어 전문가로, 개발자들 사이에서는 전설적인 인물로 꼽힌다. 2005년 단 두 명의 연구 인력으로 칩 프로그래밍 모델인 CUDA(Compute Unified Device Architecture)를 개발해 ‘쿠다의 아버지’로 불렸다. 당시 인텔과 AMD라는 거대한 경쟁사들이 넘볼 수 없는 강력한 록인 효과로 오늘 날의 엔비디아 생태계를 만들었다. 
젠슨 황이 중요시하는 건 과감한 인재 영입이다. 미국 스탠퍼드 대학에서 박사과정을 밟은 벅이 연구 중에 GPU 기반 컴퓨팅을 위한 언어와 컴파일러를 지원하는 BrookGPU 프로그래밍 환경을 개발하자 엔비디아는 그의 기술을 라이선스했다. 이 과정에서 젠슨 황이 직접 나섰다. 이안 벅이 이후 스탠퍼드 공학 매거진과 인터뷰에서 젠슨 황의 설득에 마음이 움직인 지점을 이같이 언급했다.

“젠슨은 기술이 아니라 저를 먼저 설득했습니다. 제가 연구하고 싶던 것을 실현하게 해주겠다고 했고 실제로도 그 약속을 지켰습니다.”

당시만 해도 누구도 CUDA의 필요성을 인식하지 못했다. 이로 인해 고객사는 물론 연구자들의 니즈 자체가 없었기 때문에 두 가지 일에 나서야 했다. 
‘모두가 CUDA를 쓸 수 있게 하는 것’ 
‘모든 것에 CUDA를 쓸 수 있게 하는 것’ 
이는 황무지에서 개간을 하고 씨앗을 나눠주는 일에 가까웠다. 언젠가 결실을 맺을 것이라는 신념을 가진 채로. 젠슨 황이라는 리더의 과감한 지원으로 이안 벅은 쿠다라는 플랫폼의 에반젤리스트로 거듭났다. ‘GPGPU(범용그래픽처리장치)=연산’이라는 공식을 엔비디아의 새로운 정체성으로 각인시킬 수 있도록 기술 개발과 동시에 잠재적 이용자인 개발자와 연구자들을 위한 교육 자체에 집중했다. 이후 20년이 지나 쿠다는 앞으로도 엔비디아를 최소 5년 이상 잠재적인 경쟁자가 없는 압도적인 강자의 위치를 지키는 데 큰 역할을 하고 있다. 
엔비디아 기술력의 상징이자 비전을 제시할 수 있는 최고과학자 역시 젠슨 황이 삼고초려 끝에 영입한 인재다. 병렬 컴퓨팅의 대가인 빌 달리 엔비디아 최고과학자의 합류는 엔비디아의 기술 방향성을 정하는 데 결정적이었다. 그는 인텔의 반세기 넘게 쌓아온 ‘무어의 법칙’이 무용해진 이후 ‘황의 법칙’이 이를 대체하도록 하는 데 일조했다. 미국 스탠퍼드대의 컴퓨터과학과 학과장이자 구루로 꼽혔던 그가 학계에서 안정된 위치를 내려놓고 기업으로 옮기기란 쉬운 결정이 아니었지만, 빌 달리는 ‘GPU를 그래픽카드 그 이상으로 발전시키겠다’는 젠슨 황의 비전에 공감해 합류를 결정했다. 마침 대학에서의 연구활동에 한계를 느끼는 달리에게 “엔비디아가 당신의 연구를 위한 산업적 실험실이 되겠다”고 약속했다. 앞서 엔비디아의 최고과학자를 맡았던 데이비드 커크는 빌 달리의 영입을 두고 이같이 술회했다. 

“빌을 영입하기 위해 아주 오래 천천히 움직였습니다. 일단 낚싯바늘을 꿰고, 굉장히 천천히 줄을 감아올렸습니다. 그는 엔비디아의 미래에 꼭 필요한 퍼즐 조각이었습니다.”

2009년 1월 고심 끝에 달리 최고과학자가 엔비디아에 출근했을 때 회사의 상황은 좋지 않았다. 직전 해에 전 세계를 강타한 미국 발 글로벌 금융위기로 반도체 업계가 침체됐고 여러 혼란으로 엔비디아의 주가가 80% 빠지는 위기를 겪었다. 이때도 젠슨 황은 연구개발 투자를 줄이지 않았다. 투자와 비용을 줄이고 영업이익률을 개선하라는 온갖 행동주의 투자자들의 압박에도 불구하고 젠슨 황은 방파제가 되어 이를 막아냈다. 이 기간 달리 최고과학자는 실시간 레이 트레이싱(RT Core), Omniverse 기반 시뮬레이션, AI 컴퓨팅 구조 설계 등 수많은 문샷 프로젝트를 이끌었다. 
특히 빌 달리는 ‘소프트웨어 없는 칩은 모래에 불과하다’는 신념을 바탕으로 하드웨어와 소프트웨어를 투 트랙으로 발전시키는 통합 전략을 고수했다. 그는 젠슨 황이 기술적으로 판단을 내려야 할 때 가장 먼저 의견을 구하는 인물로, GPU 아키텍처와 컴파일러, AI 트레이닝 시스템 등 다양한 부문에서 독선생 역할을 하고 있다. 그가 젠슨 황에게 남긴 것은 기술 자문만이 아니라 연구자들이 실패를 대하고 실패 속에서도 다시 도전하는 실험적인 태도였다.

“우리는 연구자들이 실패해도 괜찮은 문화를 지켜야 합니다. 혁신은 실패 위에서 자랍니다.”

빌 달리를 통해 엔지니어 일색인 엔비디아는 다양성을 확보할 수 있었다. 엔비디아 리서치 조직을 통해 연구자 주도의 실험 문화를 장려하고 매년 수십 건의 문샷 과제를 내부 공모로 시작하고, 실패에 대한 비용보다 학습에 대한 보상을 강조했다. 그가 조직한 실시간 레이 트레이싱 팀은 무려 7년간의 실패 끝에 RT 코어를 완성했다. 빛의 경로를 추적하여 실시간으로 초고화질의 그래픽을 구현하는 레이 트레이싱 기술은 엔비디아의 핵심 제품인 GPU의 수준을 비약적으로 끌어올리는 데 결정적으로 기여했다. 달리는 AI 4대 천왕이라고 불리는 앤드류 응 미국 스탠퍼드대 교수가 딥러닝 연구를 진행할 때 CPU 대신 GPU로 작업을 해볼 것을 제안해 딥러닝 연구의 새로운 지평을 여는 데 기여했다. 이로 인해 젠슨 황은 물밑에서 일어나는 변화를 빠르게 탐지해 AI라는 한 우물을 팔 수 있었다.
엔비디아에서 응용 딥러닝 연구 담당 부사장을 맡고 있는 브라이언 카탄자로 역시 엔비디아의 빽빽한 인재 밀도를 이야기할 때 빼놓을 수 없는 인물이다. 빌 달리와 이야기를 나눈 앤드류 응 교수를 도와 2000개의 CPU로 수행하던 작업을 단 12개의 엔비디아 GPU로 대체할 수 있게 했다. AI 추론에 필요한 어셈블리 레벨의 속도를 구현해 줄 키맨이 된 카탄자로의 경우 아직 엔비디아에 관련 제품이 없었음에도 그를 위한 자리부터 만들었다. 카탄자로 부사장은 당시 딥러닝의 가능성이 희미했음에도 회사가 압도적인 속도를 낼 수 있었던 이유를 두고 젠슨 황이라는 리더의 결단과 추진력을 추켜세웠다.

“하루아침에 회사 전체가 뒤바뀐 건 아니었어요. 젠슨은 몇 달에 걸쳐 점점 더 관심을 보이며 더 깊이 있는 질문을 하기 시작하다가 회사 전체가 무리지어 머신러닝으로 집결하도록 독려하기 시작했습니다.”

젠슨 황은 평소에도 늘 엔비디아를 자랑할 때 첫 번째로 이야기하는 부분이 인재들의 압도적인 경쟁력이다. 흥미로운 지점은 ‘닭이 먼저냐 달걀이 먼저냐’에 대한 판단이다. 필요한 기술을 따져본 뒤 이를 구현할 수 있는 인재를 찾는 것이 아니라 그 기술을 먼저 구현할 줄 아는 인재를 확보한 뒤 그 인재를 중심으로 기술 로드맵을 설계하는 방식이 특징적이다. 

“저는 천재(Genius)들에게 둘러싸여 일하고 있어요. 저보다 똑똑한 사람은 많아도 저보다 더 열심히 일하는 사람은 없을 거예요.”

이를 두고 젠슨 황은 ‘사람이 먼저고 기술은 그 사람의 속도만큼 진화할 수 있다’는 철학으로 설명한다. 이 때문에 사람을 키우는 일처럼 단기적인 상황이나 로드맵에 집중하기 보다는 특정한 사람이 발휘할 수 있는 잠재력의 끝, 이른바 ‘절대 속도’를 끌어내는 데 집중한다. 그렇다 보니 기술 전략과 인재 전략을 분리하지 않는다. 그 기술을 누구보다 잘 이해하고 실현할 수 있는 인재를 먼저 확보하고, 그 인재가 설계하는 현실적인 기술 로드맵을 따르는 것이 엔비디아식 접근이다. 젠슨 황은 한 인터뷰에서 이 같이 언급하기도 했다. 

“기술 로드맵은 최고 기술자, 최고 과학자의 두뇌를 따라갈 수밖에 없습니다. 그가 갈 수 있는 가장 빠르고 정확한 길이 곧 우리의 로드맵입니다.”

비즈니스의 출발과 끝에 늘 인재가 있는 엔비디아

기업을 인수할 때도 인재 확보 관점에서 과감히 베팅하는 경우가 부지기수다. 엔비디아가 69억 달러를 투자해 인수한 고성능 네트워크 기업 멜라녹스(Mellanox)는 단 4년 만에 120억 달러 이상의 연 매출을 창출하며 엔비디아에 있어 ‘마르지 않는 샘물’과 같은 수익원을 가져다줬다. 하지만 이 회사를 엔비디아만 노린 것은 아니다. 2019년 엔비디아가 데이터센터 역량 강화를 위해 멜라녹스를 들여다보고 있을 때 인텔 역시 이 회사를 노리고 있었다. 하지만 인텔이 주저하는 사이 엔비디아는 더 빠르게 속도전을 펼쳤다. 돋보이는 부분은 인수 후의 통합 과정이었다. 젠슨 황은 갑작스러운 인수 소식으로 당황한 멜라녹스 구성원에게 “모든 직원을 고용 유지하고 현지 팀을 확대하겠다”는 메시지를 주며 신뢰를 줬다. 이후 본사가 있는 이스라엘을 방문해 현지에서 2,000여 명과 만나면서 스킨십하는 모습을 보여줬고 결과적으로 화학적 통합을 이뤄냈다. 이 과정에서 핵심 기술 리더십 대부분이 유출 없이 남았고 엔비디아는 인수 시너지와 함께 경쟁사 견제라는 두 마리 토끼를 잡았다.

젠슨 황이 말하는 빛의 속도는 결국 조직 전체가 동기화된 속도이자, 각 기술 리더들이 적시에 자신의 영역에서 최고의 판단을 할 수 있게 만든 구조의 산물이다. 단일 인물의 카리스마가 아니라 여러 기술 리더들이 자율적 판단하에 기술의 방향을 결정하는 ‘분산 기술 리더십’ 모델이기도 하다.
젠슨 황의 리더십은 분명 독보적이다. 하지만 젠슨 황의 리더십이 끝없는 기술 혁신으로 이어진 데는 젠슨 황과 속도, 철학, 실행력을 동기화한 기술 리더들이 있었다. 이들은 단지 인재가 아니라 플랫폼 자체다. 엔비디아는 이들에게 무대 위의 조명을 비추지는 않지만 기술과 시간의 주파수를 맡긴다. 오늘날 엔비디아에 가장 강력한 경쟁 우위를 만든 요소이기도 하다. 이는 특정 한두 사람에 몰리지 않고 계속해서 마중물을 만들고 순환한다는 데서 강점이 있다. 젠슨 황은 자신의 경영 후계자 선정을 염려하는 일부 시선에 대해 이 같이 말했다. 

“제가 가장 독성(毒性)적인 후계자 양성 방법이라고 생각하는 것은, 서너 명의 리더를 점찍어놓고 제가 불의의 사고를 당할 것을 대비해 이사회 구성원들에게 그들 중 한 명을 선택해달라고 하는 것입니다. 밀실에서 이루어지는 이런 일들은 직원을 막연하게 추측하도록 만듭니다. 리더로 ‘누가 선택됐고, 누가 탈락했지’ 하고 말이죠. 저는 이 같은 방법 대신에 가능성 있는 여러 리더를 양성하는 것이 이사회에도 선택권을 높이고, 조직으로서도 받아들일 수 있는 건강한 방식이 될 것이라고 생각합니다. (2009년 스탠퍼드대 기술 창업 프로그램 강연에서)

기술 리더십은 리더는 혼자 만들지 않는다. 그것이 엔비디아가 ‘빛의 속도’를 실현하는 진짜 원리다.