NVIDIA 설명을 보면 Alpamayo 2 Super 34B는 기본적으로 teacher/foundation 모델이고, 실제 차량에는 이것을 distillation + quantization해서 줄인 student 모델을 넣는 구조입니다. NVIDIA도 “자기 데이터로 fine-tune → edge용으로 압축 → 차량 내 DRIVE AGX Thor에 배포” 흐름을 명시하고 있습니다.
그리고 차 안 컴퓨터는 대략 DRIVE AGX Thor입니다. 이쪽은 최대 64GB LPDDR5X 통합 메모리, AI 성능은 FP4 기준 최대 약 2,000 TFLOPS 급으로 소개되고 있습니다.
그러니까 홍보영상의 그림은 대략 이겁니다.
개발/학습 Alpamayo 2 Super 34B → 거대한 서버 GPU에서 학습·후학습 → 실제 운전 데이터로 튜닝 → distill / quantize
차량 작아진 Alpamayo 계열 student → DRIVE AGX Thor → 카메라 여러 대 입력 → trajectory + reasoning/action → 기존 DRIVE AV 스택과 결합
특히 NVIDIA 문서에는 Alpamayo 계열에 10B짜리 Nano 모델도 따로 있습니다. 그래서 실제 차량용 모델은 34B 그 자체보다는 10B급 또는 그보다 더 압축된 파생 모델일 가능성이 훨씬 자연스럽습니다.
라고.. 합니다
리릿
IP 121.♡.127.56
00:28
2026-09-15 00:28:53
·
@Forecasting님 34B정도면 32기가 시스템에서 4비트 양자화로 돌릴 수 있으니 굳이 증류할 필요는 없을 것 같아요.
무주공산수비대
IP 182.♡.129.84
00:24
2026-09-15 00:24:24
·
훈련용 GPU 도 팔고 차량에 달 Thor 칩도 팔기위한 모델이군요. 휸련은 각자 알아서 시켜라는..요..
따라란!
IP 108.♡.219.55
02:38
2026-09-15 02:38:30
·
허깅페이스 이름부터 뭔가 귀여워요
새로운 댓글이 없습니다.
이미지 최대 업로드 용량 15 MB / 업로드 가능 확장자 jpg,gif,png,jpeg,webp 지나치게 큰 이미지의 크기는 조정될 수 있습니다.
그리고 차 안 컴퓨터는 대략 DRIVE AGX Thor입니다. 이쪽은 최대 64GB LPDDR5X 통합 메모리, AI 성능은 FP4 기준 최대 약 2,000 TFLOPS 급으로 소개되고 있습니다.
그러니까 홍보영상의 그림은 대략 이겁니다.
개발/학습
Alpamayo 2 Super 34B
→ 거대한 서버 GPU에서 학습·후학습
→ 실제 운전 데이터로 튜닝
→ distill / quantize
차량
작아진 Alpamayo 계열 student
→ DRIVE AGX Thor
→ 카메라 여러 대 입력
→ trajectory + reasoning/action
→ 기존 DRIVE AV 스택과 결합
특히 NVIDIA 문서에는 Alpamayo 계열에 10B짜리 Nano 모델도 따로 있습니다. 그래서 실제 차량용 모델은 34B 그 자체보다는 10B급 또는 그보다 더 압축된 파생 모델일 가능성이 훨씬 자연스럽습니다.
라고.. 합니다
34B정도면 32기가 시스템에서 4비트 양자화로 돌릴 수 있으니 굳이 증류할 필요는 없을 것 같아요.