엔비디아)KBS하고 짐 켈러 인터뷰한 영상 헤드라인이 과장된 비약인 이유 +24 [15]

헤드라인을 저렇게 써놔서 짐 켈러가 엔비디아 시대는 곧 끝난다고 대놓고 말한 것 처럼 보이는데

정작 영상보면 실제로는 짐 켈러는 헤드라인과 다른 얘기를 하고 있음.

짐 켈러 "엔비디아는 오랫동안 GPU를 병렬컴퓨팅에 활용하는 방안을 연구해왔고 ai시대에서 드디어 빛을 발한 것이다. 하지만 gpu는 ai가속연산보단 그래픽처리에 특화되어 있기 때문에 최선은 아니다. 현재 엔비디아 amd 인텔 등이 자사 gpu에 텐서프로세서 모듈을 추가하고 있고, 우리는 아예 텐서프로세서로 이루어진 ai칩을 개발하고 있다."

이 내용만 보면 엔비디아가 현재로서는 gpu로 ai칩 시장을 장악하고 있지만, 최선은 아니며 ai전용칩이 필요하다는 주장으로 볼 수 있음. 그리고 실제로 이게 맞음.

그런데 이 인터뷰는 사실 이전에 공개된 "삼성, 잃어버린 10년"이라는 영상에 먼저 부분적으로 선공개된 인터뷰임.

즉, 실제 인터뷰는 그보다도 이전에 진행되었다는 소리임.

그런데 짐 켈러와 kbs가 인터뷰를 하고 좀 지나서 엔비디아는 GTC 2024에서 새로운 HPC용 GPU인 B100을 공개함.

그리고 실제로 이번에 공개된 블랙웰 GPU는 기존의 호퍼 GPU에 비해 ai가속에 크게 필요하진 않은 고정밀 연산부의 비중을 줄이고, 그만큼의 여유분을 ai연산에 필요한 저정밀도 연산부에 투자하면서 ai성능을 크게 향상시키는 방향으로 개발됨.

그리고 이전세대인 H100 등의 호버 GPU 또한 바로 이전세대인 암페어 아키텍처 기반의 A100 대비 ai 트레이닝 및 추론에 특화된 구조로 개발되었음.

요약하자면, 똑같은 GPU라고 불리고 있지만 사실 지금 AI시장에 사용되고 있는 H100, B100등의 GPU들은 우리가 사용하는 그래픽처리에 특화된 지포스 라인업과는 사실상 다른 물건이라고 봐도 좋을 정도의 차이를 가지고 있고, 이 차이는 점점 더 벌어지고 있는 상황임.

즉, 짐 켈러의 이 말은 지극히 정론적인 말이고, 엔비디아 또한 당연히 그걸 잘 알고 있어서 점점 더 ai 트레이닝 및 추론에 특화된 구조로 GPU를 개발하고 있음. 지금의 H100, B100은 우리가 흔히 아는 그런 GPU하곤 상당히 다른 물건이라 봐도 좋음.

짐 켈러 "사람들이 우리 회사더러 엔비디아하고 어떻게 경쟁할거냐 묻는데, 우리는 엔비디아와 직접적인 경쟁은 하지 않을 거다. 텐스토렌트의 타겟은 엔비디아의 HPC GPU가 커버하지 않는 소규모 기업체들의 시스템들이다."

그리고 영상 헤드라인만 보면 짐 켈러가 직접 엔비디아의 시대는 끝났다고 말한 것 같지만, 영상을 백번 돌려봐도 그런 식의 말은 나오지 않음. 그리고 정작 짐 켈러 본인 또한 엔비디아와 직접 경쟁할 생각도 없다고 밝힘. 현재 텐스토렌트의 타겟은 소규모 사업체들이 사용할 엣지AI용 칩들인데, 이런 영역들은 사실 엔비디아의 HPC GPU까진 필요없는 라인업이고, 그걸 쓰기에도 비효율적임. 그래서 이미 학습, 개발이 끝난 ai모델을 저지연으로 빠르게 처리할 수 있는 추론에 특화된 칩을 주로 타게팅하겠다는 소리임. 

3줄요약

1. 짐 켈러는 인터뷰에서 기존의 GPU로 ai연산 돌리는 건 현재로선 성공적이지만 최선까진 아니라고 함. 

2. 짐 켈러는 인터뷰에서 엔비디아하고 직접 경쟁하기보단 엔비디아 gpu를 쓰기엔 맞지 않는 소규모 기업체용 솔루션을 타겟팅하고 있다고 함.

3. 이걸 kbs는 "짐 켈러, 엔비디아의 시대는 끝날 것이라고 말하다!"라고 헤드라인을 짠 것.