엔비디아 알파마요 2 수퍼 공개 (오픈웨이트)
조회 3,885 · 공감 3 · 댓글 11
학습 데이터 규모
320억 파라미터 VLM
+
약 23억 파라미터 diffusion action expert
공개 모델 카드에 따르면 학습에는 대략:
- 11만5,000시간의 멀티카메라 주행 영상
- 10억 장 이상의 이미지
- 차량 위치·이동 궤적 데이터
- 약 370만 개의 Chain-of-Causation 추론 설명
Chain-of-Causation 이란
“앞차가 차선을 침범하고 있기 때문에 충돌 위험이 있으며, 따라서 감속 후 왼쪽으로 공간을 확보한다”
처럼 관찰 → 원인 → 판단 → 행동을 연결한 설명
공개된 테스트 환경은 H100 80GB GPU 한 장.
테스트 구성에서는 GPU 메모리를 약 69~72GB 사용
자동 라벨링
자율주행 개발에서 가장 비싼 작업 중 하나가 데이터 라벨링
사람이 수많은 주행 영상을 보면서:
- 어떤 차량이 위험했는지
- 보행자가 어디 있었는지
- 왜 감속했는지
- 적절한 행동은 무엇인지
일일이 표시할 필요 없이
Alpamayo 2 Super는 영상을 보고 이런 설명과 위치 정보를 자동으로 붙여, 라벨링 기간을 수개월에서 수일 수준으로 단축 가능
기타 설명
Alpamayo 2 Super는 다음과 같은 추론을 하나의 기반 모델 안에서 처리.
예를 들어 교차로에서:
“맞은편 차량이 좌회전 신호를 켰고, 오른쪽 보행자는 도로로 진입하려 하며, 뒤차는 너무 가까이 붙어 있다. 급정지보다는 천천히 감속하며 보행자에게 양보한다.”
이런 식으로 전체 상황을 하나의 맥락으로 묶어서 판단.
특히 엔비디아가 강조하는 건 평범한 직선도로가 아니라 다음과 같은 롱테일 상황.
- 갑작스러운 끼어들기
- 비보호 좌회전
- 복잡한 합류
- 여러 차량과 보행자가 동시에 얽힌 상황
- 악천후
- 드물게 발생해서 학습 데이터가 부족한 상황
댓글 11
뭐 그 회사 빠들은 데이터량이 비교불가네 어쩌네 하지만 어짜피 병목은 데이터량이 아니라 데이터 처리였으니까요.
사람 써서 라벨링 한건 옛날 이야기고 그 기술 스택은 다 갖다 버린지 몇년 됐습니다만..
nvidia 약파는거야 nemotron에 하네스 잘 붙이면 다른 프론티어 모델만큼 할 수 있다는 주장만 보더라도... (대신 우리가 훨씬 싸요! 라고 하더군요)
당연히 큰 모델 만들고 거기서 대중모델은 증류해서 쓸텐데 (클라우드 아니라면), 이걸 약파는거라고 할 수 없습니다.
큰 모델 자체의 성능이 충분하다는 검증이 되지 않았고, 증류 모델의 성능이 원본 모델에 준한다는 신뢰가 없는게 엔비디아에만 예외적으로 적용되어선 안되겠죠.
엔비디아에 기대 갖는 분들이 FSD v14 증류 모델인 v14 Lite가 HW4에서 돌아가는 v14와 동등하다고 인정하는 경우는 없을거 같아서요.
저는 여러 LLM의 증류 버전을 테스트 해 보는데, 성능이 유사하게 유지 된다는건 말장난이고 분명히 열화가 체감 되더군요. 어젠가 그젠가 젠슨황 인터뷰에서 자신들의 nemotron이 충분히 프론티어 모델과 경쟁 가능하다고 주장했는데 그 주장을 곧이 곧대로 믿기엔 제가 nemotron을 써보니 격차가 크게 느껴졌습니다.
아직 아무도 체험해 보지 못한 기술의 주장을 적극적으로 수용하면서, 이미 사람들이 체감해볼수 있는 시스템에 대해서는 부정적인 분이 알리앙님 말고 저 위에 계시네요..
중국이 미국의 모델들을 증류해 빠르게 성장하고 있고, 그 퀄리티가 날이 갈 수록 높아지고 있죠. 그걸 부정하는 사람은 아무도 없을 겁니다. 또한 그 속도가 매우 빨라지고 있다는 점도요.
또한 증류본이 원 모델을 따라잡진 못해도, 다음 세대의 증류본은 이전 세대의 원 모델을 이기기도 합니다.
이런 상황에 큰 모델 만들고 증류하는 수순 자체를 약 파는거라고 하면 그냥 악담일 뿐이죠. 써볼 만큼 써본 분이라면 더더욱요.
저는 기술 발전에 흥미있지 회사 경쟁은 관심이 없습니다.
발전하는 모습이 재밌습니다.
약판다고 하는 이유는
1. 알파마요 모델 자체의 성능이, 검증된 다른 모델 증류한게 아니고 자체 모델이니 프론티어 모델로 인정할 수 있을지 검증이 안됐다.
2. 엔비디아의 다른 행동 사례를 보면 프론티어 모델에 비해 현저히 성능이 떨어지는 LLM 모델을 과대포장 하더라
두가지입니다.
알파마요 모델 성능을 입증하던가. 그들의 내부 평가 기준이 엄격하다는 것을 신뢰하게 만들어야 할텐데 제 눈엔 그렇게 보이지 않아서요.
중국 모델이 증류로 빠르게 따라가는건 마더 모델의 성능이 좋아서잖아요.
그런데 "저 칩 일반 차에 넣기엔 너무 비싼거 아니에요?"
라는 댓글에
"엔비디아 원래 약 팝니다" 라고 하는건 엉뚱한 디스잖아요..
단순히 성능이 떨어지면 내용과 상관없는 디스를 해도 된다면..
좀 다른 얘기지만
LLM 중에 성능 과대포장으로는 커서 인수하기 전 그록이 절대 빠질 수 없습니다. 가격대비, 절대 성능 모두 정말 별로였으니까요.
과연 그때도 지금처럼 머스크와 xai는 약 팔고 있다고 하셨을까요?
아니었던 걸로 압니다.
심지어 현재도 그록은 유일하게 상급 요금제를 300$이나 받으면서 성능은 뒤떨어지는데
사용량마저 지피티 프로나 클로드 맥스 등은 기본 요금제 대비 20x일 때,
슈퍼그록 헤비만 슈퍼그록 대비 5x의 사용량입니다.
이런 상황에서도 리누님의 댓글을 전에 지나가다 봤을 때 지금 그록은 구독제로 쓸만하다 하셨죠.
저도 물론 그록이 좋아지면 당연히 그록 좋다 하고, 바로 주로 사용할겁니다.
그런데 지금 리누님은.. 아무리봐도 팬심이 많이 작용하시는 것 같아요.
네 FSD에는 팬심 작용 인정합니다.
그런데 여러 LLM 썼을때 Grok 4.5는 저한텐 API 단가 기준으로는 꽤 가격과 성능이 괜찮았어요. 구독했더니 ChatGPT Pro쓰다가 내려온거라서 너무 심하게 부족하게 느껴지긴 했지만 5.6 sol이나 terra를 쓰지 못하는 상황에서 선택할수 있는 대안으로는 밸런스가 괜찮았거든요.
최근 5.6 luna api 가격이 파격적인 세일에 들어갔도 딥시크 v4 flash도 리뉴얼 되었지만 여전히 중요하고 어려운거 잘 계획 세우고 실행하는건 grok 4.5가 더 믿을만 합니다. FSD 기술에 대한 신뢰는 직접 쓰기 전부터 갖던 (다른 AI기술 흐름에 빗대어 판단한) 추측이지만 그록에 대한 평판은 저도 다양하게 써본 경험으로 한 이야기입니다.
ChatGPT가 구독요금제와 API요금제의 간극이 커서 혜자 (+ 최근 리셋권 살포)였고 만족도가 높은 것이지, 그 당시 지적은 제공량 문제가 아니라 모델 성능 자체에 대한 지적이었거든요. 저는 Grok 4.5는 월구독 플랜의 문제일 뿐 모델은 충분히 좋다고 느낍니다.
Cursor 인수 전 그록은 제가 안 써본 상황이었어서 평가를 하지 않았습니다. 4.5부터 써봤죠.
정정하자면 엔비디아가 약을 판다기보다는 그 정도 과장이나 자신감은 누구나 내비치는건데 유독 테슬라에 억까가 심했고, 그랬던 사람들이 엔비디아에는 과한 기대를 가지니 반발심으로 제가 똑같은 태도를 보이게 되는거라 생각합니다.
공정하려먼 테슬라 FSD에 과하게 비판적이었던 사람들은 알파마요가 뭔가를 보여줄때까지는 그냥 지켜만 보고 있어야 하는게 아닐까요.