이야기
(AI딸깍)텐스토렌트가 VLM에 최적화한 AI칩이라네요.
조회 246 · 공감 0 · 댓글 4
짐캘러가
테슬라에 가서 만들어 준 자율주행 칩은 비전기반의 자율주행 칩이고,
지금 만드는건 VLM 기반의 자율주행 칩이라 캅니다.
nvidia도 vlm 방식이니, nvidia 사다 쓰다가 텐스토렌트로 대체할수 있겠군요.
자율주행 아키텍처가 기존의 객체 인식 방식에서 상황을 복합적으로 추론하는 VLM(Vision-Language Model) 기반으로 전환될 때, 하드웨어 성능과 효율성 관점에서는 텐스토렌트(Tenstorrent)의 NPU가 구조적으로 훨씬 더 우수하고 유리합니다.
테슬라의 NPU가 '특정 자율주행 알고리즘'에 맞춰진 특수 목적형 설계라면, 텐스토렌트는 VLM의 근간이 되는 트랜스포머(Transformer) 모델 연산에 극대화된 아키텍처를 가지고 있기 때문입니다. 기술적인 차이점은 다음과 같습니다.
1. 트랜스포머(Transformer) 연산 효율의 차이
VLM은 이미지뿐만 아니라 텍스트 문맥, 언어적 추론 공간을 함께 처리하므로 '어텐션(Attention)' 구조 중심의 트랜스포머 연산이 핵심입니다.
- 테슬라 NPU: 격자판 구조(Systolic Array)로 설계되어 대량의 이미지 픽셀 행렬 곱셈(CNN 계열)에는 무척 강합니다. 하지만 데이터 흐름이 가변적이고 동적인 트랜스포머 연산을 수행할 때는 연산 유닛의 상당수가 놀게 되며 가동률(Utilization)이 떨어집니다.
- 텐스토렌트 NPU: 독립적인 독자 코어(Tensix 코어) 수백 개가 그물망(Mesh NoC)으로 연결된 데이터플로우(Dataflow) 구조입니다. 연산 장치 자체가 데이터의 흐름에 맞춰 유연하게 반응하므로, 대규모 트랜스포머 및 생성형 AI 모델을 구동할 때 테슬라 구조보다 비약적으로 높은 연산 효율을 보여줍니다.
2. 고질적인 '메모리 병목' 해결 능력 (VLM의 핵심 난제)
VLM은 수십억~수백억 개의 매개변수(Parameter)를 가진 대형 모델이므로, 초당 기가바이트 단위의 데이터를 메모리(DRAM)와 칩 사이에 끊임없이 주고받아야 합니다. 이 과정에서 병목 현상과 심각한 발열이 발생합니다.
- 테슬라 NPU: 연산할 때마다 데이터를 중앙 메모리(DRAM)에서 계속 읽고 써야 하므로 전력 소모가 크고 처리 지연(Latency)이 발생할 수 있습니다.
- 텐스토렌트 NPU: 각 코어마다 자체 고속 메모리(SRAM)와 라우터를 독립적으로 내장하고 있습니다. 데이터가 중앙 메모리로 돌아가지 않고 코어에서 옆 코어로 직접 이동하며 연산(Core-to-Core)하므로 메모리 병목을 원천적으로 제어하여 자율주행에 필수적인 초저지연(Low Latency)을 달성합니다.
3. 모델 크기 확장을 위한 '칩렛(Chiplet)' 구조
VLM 기반 자율주행은 단일 칩의 한계를 넘어서는 초거대 연산력을 요구하기 때문에 여러 개의 칩을 묶는 확장성이 필수적입니다.
- 테슬라 FSD 칩은 하나의 거대한 다이(Monolithic Die) 구조로 설계되어 칩 자체를 무한정 크게 만들기 어렵고 확장 시 효율이 저하됩니다.
- 텐스토렌트는 처음부터 레고 블록처럼 칩을 이어 붙이는 칩렛(Chiplet) 방식을 채택했습니다. 차량의 세그먼트나 VLM의 크기에 따라 NPU 칩렛을 여러 개 결합하여 유연하게 성능을 Scale-out할 수 있습니다.
4. 동적 스파시티(Dynamic Sparsity) 기술
VLM 모델의 방대한 연산 중 상당수는 계산할 필요가 없는 '0(Zero)' 값입니다. 텐스토렌트의 하드웨어는 이 무의미한 0 값을 스스로 감지해 연산을 건너뛰는 스파시티 기술이 칩 수준에서 구현되어 있습니다. 거대한 VLM을 차량 안에서 돌리면서도 배터리 전력 소모를 극단적으로 낮출 수 있는 비결입니다.
💡 결론
테슬라가 카메라 기반 비전 자율주행(FSD) 시장을 개척할 당시에는 테슬라의 인하우스 NPU가 세계 최고 수준이었습니다.
그러나 차량이 인간처럼 상황을 인지하고 예측하는 VLM/생성형 AI 자율주행 시대로 진입할 때는, 트랜스포머 연산과 데이터 흐름 제어에 압도적인 우위를 가진 텐스토렌트의 NPU 아키텍처가 성능과 전력 효율 면에서 훨씬 더 미래지향적이고 뛰어난 선택지
가 됩니다.
여러분 AI와 싸우지 마세요.
Only time will tell.
댓글 4