기존에 비슷한 내용이 나왔는지는 모르겠습니다만...
현재 실시간으로 인터뷰 중에 나온 말입니다.
테슬라 차량에 실리는 컴퓨팅 자원이 나중에는 차에 필요한 이상의 성능이 될 것인데,
이 때 고객 동의 하에 분산 컴퓨팅(추론) 자원으로 활용 가능한 구상을 하고 있다고 합니다.
차량을 이용하지 않는 시간에 추론용으로 사용을 하게 되면,
그 대신 100 달러에서 200달러를 고객에 지급하는 방식의 구상입니다.
참고로 보상안 통과 되었습니다.
기존에 비슷한 내용이 나왔는지는 모르겠습니다만...
현재 실시간으로 인터뷰 중에 나온 말입니다.
테슬라 차량에 실리는 컴퓨팅 자원이 나중에는 차에 필요한 이상의 성능이 될 것인데,
이 때 고객 동의 하에 분산 컴퓨팅(추론) 자원으로 활용 가능한 구상을 하고 있다고 합니다.
차량을 이용하지 않는 시간에 추론용으로 사용을 하게 되면,
그 대신 100 달러에서 200달러를 고객에 지급하는 방식의 구상입니다.
참고로 보상안 통과 되었습니다.
차량형 데이터센터인거죠
뒷좌석 게임 앞좌석 fhd 영상 재생하면서 기본기능과 네비가 돌아가야되거든요...
플스의 추억도 떠오릅니다
집밥 없이 일반 공용충전소 사용하는 경우. 전기료가 비싸져서 별 이득이 없을 것 같다는 생각이 갑자기 들다가.
슈퍼처저의 경우 별도의 충전요금제가 나올 수도 있겠다는 예상도 되네요.
FSD 트레이닝에 AI4(HW4)를 일부 사용하고 있다고 밝히기도 했죠.
특히 온라인 게임들의 상당수는 분산컴퓨팅을 하고.. 옛날 SNS인 싸이월드 배경음악도 그리드컴퓨팅을 했었습니다.
요즘은.. 네이버 치지직인가에서도 그리드를 지원하기 시작 했구요.
말씀하신 것은 네트워크 부하를 줄이는 전통적 분산 구조이고 일론이 말한 것은 엣지 단에서 합성데이터를 생성하는 지능형 분산 구조라 단순히 이미 있는 기술이라고 치부하기 어렵죠.
고전적 분산컴퓨팅은 테슬라의 쉐도우모드보다도 훨씬 단순한 수준이 아닐까 싶습니다.
네트워크 부하를 줄이는 목적말고도 분산컴퓨팅을 통한 연산 자체는 매우 오래된 기술입니다. 계산클러스터라고도 부르죠. 댓글로 다른 분이 언급해주신 SETI@Home 도 이걸 엣지에서 수행한 케이스고, 현대적으로 GPU를 이용한 연산을 엣지 그리드 클러스터링으로 구현한 대표적인 사례가 (사용자 동의 없이 악의적인 케이스지만) 좀비PC 채굴이죠.
분산 연산 자체는 오래된 기술이기는 하지만 말씀하신 예들은 테슬라처럼 순환 구조를 이루는 형태는 아니지 않나요 싶네요.
테슬라는 단순 분산 연산이나 엣지 연산에 그치는 것이 아닌 집단 지능 개선 구조에 가깝다고 생각합니다.
도처에 깔린 차량과 옵티머스가 각각의 플릿으로부터 각자의 실세계 경험을 합성데이터로 서로 공유하여 개선된 AI가 다시 각각의 차량과 옵티머스에 업데이트되고, 다시 이들 각각의 플릿이 서로의 경험을 공유하는 것을 반복하면서 똑똑해지는 구조죠.
이 순환이 그록과 통합되면 AGI로 진화하는 초기 단계로 볼 수도 있을테고요..
이런 구조를 기반으로 한 분산 컴퓨팅.. 그리고 이를 위해 차량(또는 옵티머스) 탑재용과 도조가 통합된 AI6라는 전천후 칩 개발을.. 단순히 "이미 있던 기술"이라고 하고 넘기기에는 다소 아쉬움이 있어서 남긴 댓글이였습니다.
그리드 컴퓨팅에 포지티브 피드백 루프를 접목해서 엣지 분산 연산->중앙에서 합성해서 다시 업데이트의 과정을 반복하는 것도 엄연히 그리드 컴퓨팅의 영역이긴 합니다. 여하간 말씀하신대로 엣지에서 학습 연산->중앙으로 모델 업데이트->다시 엣지에 반영되는 순환구조... 보통 Federated Learning 이라고 부르는데, 개인정보가 민감한 헬스케어 분야에서는 이미 시도를 하고 있는 기술이죠. 가까이는 구글 GBoard 키보드 앱도 비슷하게 동작하고요.
음, 사실 제가 그 부분에는 완전 문외한이라 잘 모르겠지만.. 말씀하신 헬스케어 Gboard 같은 순환형 업데이트 구조는 테슬라가 이미 쉐도우모드로 오래전부터 해오던 형태에 더 가깝지 않나 싶습니다.
테슬라의 분산컴퓨팅은 일견 비슷해 보이기는 해도, 실제 주행에서 얻은 경험을 바탕으로 AI가 아직 겪지 못한 새로운 상황을 대량으로 창조하는 것이 주 목적이라는 것과.. 그 상황을 스스로 해결하면서 진화하는 구조라는 점에서 차이가 있지 않나 싶습니다.
쉐도우모드는 학습을 위한 데이터를 수집해서 중앙에서 모델 학습에 활용하는 것이라 할 수 있고, 본문의 머스크의 구상은 데이터의 수집에서 한 발 더 나아가 실제 학습까지 엣지에서 분산으로 처리하는 것으로 읽히는데, 이게 바로 Federated Learning 의 개념입니다. 제가 언급한 케이스들도 후자고요.
추가하자면, 뭐... 저는 이렇게 해석하긴 했는데, 엣지에서의 데이터셋 수집(여기까지가 쉐도우모드죠)+엣지에서의 머신러닝을 통해 테슬라 자체의 자율주행을 위한 모델을 학습하는 게 아니라 연산 클러스터 개념으로 테슬라 차량을 활용한 딥러닝 클러스터를 클라우드처럼 제공한다-는 아이디어라면 꽤나 획기적이긴 합니다. 다만 이 경우 어마어마한 네트워크 성능이 필요한데 이걸 어떻게 해결할지가 관건이 아닐까 싶습니다. 보통 수십수백기가의 대역폭이 필요하니까요. 개인적인 예상으로는, 네트워크 참가자에게 이정도 수준의 고속 인터페이스를 유선(당연히 무선은 커녕 일반적인 이더넷으로도 택도 없죠. 괜히 인피니밴드가 잘나가는게 아닙니다.)으로 전부 깔아줄 수는 없을 테니 이쪽에는 회의적입니다.
일론이 말하는 분산 컴퓨팅은 외부 연산 대행도 FSD 학습용도 아닌..우선은 추론을 통한 합성데이터 대량 생성이 주 목적인 것으로 이해하고 있습니다. 그런 점에서 말씀하신 FL이라는 것과도 결이 다르다고 본 것이고요..
쉐도우모드에 더 가까워 보인다고 한 이유는 데이터냐 모델이냐의 차이는 있지만 실사용 경험을 중심으로 순환 개선이 이루어지는 구조에 있어서 비슷하다는 것을 말하는 것이었습니다.
이 댓글의 시작은 일론의 구상이 이미 있던 기술(고전적 분산컴퓨팅)이냐가 출발이었는데.. 그냥 "이미 있는 기술이다"라고 정리하고 끝내는 것이 편할 것 같기는 하네요..
말씀하신 컴퓨터 클러스터링 합성데이터를 이용한 연합학습까지 범위를 좁혀봐도 완전히 새로운 기술은 아닙니다. 이미 2020년 언저리쯤부터 시도중이고요. 즉, 점점 범위를 좁혀가서 봐도, 그리드 컴퓨팅도, 컴퓨터 클러스터링도, 엣지 컴퓨팅도, 엣지 AI도, 학습데이터 수집도, 연합연산도, 합성데이터 생성도 전혀 완전히 새로운 개념과 기술은 아닙니다.
물론 더 범위를 좁혀서, "테슬라 차량을 이용한 엣지 머신러닝 클러스터를 이용해 합성데이터를 생성한 딥러닝" 은 말씀하신대로 완전히 새로운 기술이 맞고, (다만 이정도로 범위를 좁혀가며 "새로운 기술" 로 간주하는 게 큰 의미가 있을지는 의문이지만요) 이 참여자에게 보상을 제공하겠다는 아이디어는 꽤나 신선하네요. 위에 댓글에서 다른 분이 말씀하셨다시피, 미국에서 모델3 월 리스가 300불대인 상황에서 200불 제공해준다면, 저라면 널름 수락할 거 같습니다. 칩/배터리 혹사로 인한 노후화야, 리스로 타는 입장에선 3년 타고 반납할거니 상관없으니까요.
하는 사람이 많을까요?
분산컴퓨팅해서 ai돌리려는 시도를 마소가 한적이 있는데 다 망했죠
현실성이 없습니다.
되고 안되고를 말하는게 아닙니다.
저게 만약 되도 그냥 개인피씨나 널린 게임기들 그리드로 묶는게 효율적이어서 굳이 자동차를 쓸 이유가 없다는 의미입니다.
그리고 이미 시도한 것들도 효율이 똥망이라 안써요
무선 양자 데이터전송기술이 나오지 않는이상은요ㅎㅎ
지금도 메모리 bandwidth 때문에 병목이다 어쩌고 나오는데.. 와이파이나 위성 네트워크 경로의 추론계산은 어마어마한 비효율입니다ㅎㅎ
지 회사 차량의 유휴 리소스를 사용자 동의하에 사용하겠다는 구상인데 그게 자동차를 쓸 이유가 된다고 보여지는데요 ㅎㅎ
테슬라도 돈주니까 수락하지 돈안주면 누가 내자동차 자원을 쓰게 하나요ㅋㅋ 그거도 다 내가 돈주고 충전한 전기쓰는건데요
그게 되면
제조사가 나서서 서비스한다고 할텐데 가만있고 말고 할게 있나요ㅋㅋ
돼도 효율상 게임기나 피씨 쓰는게 낫고
가능여부는 안됩니다가 현재까지의 결과란 얘기입니다.
그래서 현실성이 없다는 얘기에요
그리고 이미 모델S 리프레시모델에서 사이버펑크2077 플레이가 가능한 수준인것도 알고 계시죠?
차로 게임도하고 영화도보고 쇼핑도 하고 인터넷도 하고 ai도 하고 다 할수는 있죠
근데 다들 그거 차로 안합니다... 핸폰으로 하죠ㅋㅋ
접근성이 더 좋고 성능좋은게 있으면 그걸로 하지 굳이 그걸 왜 차로 하나요..ㅎㅎ
마찬가지로 만약 분산컴퓨팅이 된다고 해도 피씨나 게임기가 접근성과 성능이 월등히 뛰어나서 그걸 굳이 차로 할 이유가 없다는 얘기에요. 물론 되지도 않지만요.
보고있는 제가 답답하네요
고생 많으십니다
언젠가 저 기술이 상용화 될때
다시와서 댓글 하나 남겨주심 될거 같습니다
다른사람도 아니고 머스크니까요
기대되네요
아뇨 발전은 딩연히 될텐데 현재까지는 불가능이라는 거고요.
혹시나 양자 무선 전송 기술이 나와서 가능해져도
그런기술 나올정도의 시기면 그걸 굳이 차로 돌려야 될 이유가 더욱 없어지죠ㅋㅋ
그리고 발전이 되어 그리드가 가능해도 불안정하고 언제 끊길지 모르는 네트워크인 차로 할리는 없다는 말이에요.. 차라리 랜선 달려있는 컴터나 겜기가 낫다고요ㅋㅋ
님이 컴퓨팅파워가 필요한 ai서비스 제공하는 사장이라고 생각해보새요.. 님이라면 데이터센터에서 얻을까요 차량에서 연산파워 얻겠어요 아니면 겜기나 피씨에서 얻을까요
1순위가 데이터센터고 2순위가 겜기나 피씨죠
차량연산 쓰느니 차라리 집에서 노는 핸폰이나 청소기를 쓰겠습니다ㅋㅋ 그게 더 안정적이죠
관련 글인것 같은데...
차량이 분산 컴퓨팅 노드로 활용될 경우 전력 소모, 네트워크 연결성, 하드웨어 수명, 사용자 동의 및 프라이버시/보안 등의 기술적·법적 이슈가 발생할 수 있다는 분석이 있네요.
단순히 구상 단계의 아이디어 수준 같네요 .
돌린만큼 FSD 사용가능하게 한다던지??
여기 사용되는 컴퓨팅 파워가 그렇게까지 배터리를 많이 사용하지는 않을겁니다
정확한 스펙정보는 모르지만 ,
테슬라 차량안에 들어간 PC가 무슨 RTX5080같은 외장형 GPU를 포함해서 몇백W 씩 전력을 소모하는 형태는 아니거든요
ATOM이나 Ryzen등이 사용된 것으로 알려져왔고, 아마도 내장형 iGPU를 사용했겠죠
기존에 이런 내장형 그래픽 카드를 사용하는 형태면 100% 풀로 사용해야지 시간당 전력 소모가 30w~40w 수준이었습니다.
얼마전에 나온 가장 최신형이면서 AI도 돌리라고 나온 특수한 칩셋인 AI 9 MAX+ 395 정도 되어야 시간당 100~120w정도까지도 전력을 사용할 수 있습니다.
테슬라 입장에서 이런 방식의 장사가 생각보다 잘 되어서, 최신형 차량에 ai 9 max+ 395급의 칩셋을 넣기 시작한다해도
상시로 100% 쓸수도 없긴하겠지만, 쓴다고 전제해봐야 1시간에 배터리 100Wh 사용한다는 것입니다.
한달이 약 24x30 = 720 시간이라고 생각하면, 한달내내 GPU 100% 사용하면서 100Wh씩 사용한다 쳐도,
72000Wh -> 즉, 72kWh 정도를 사용하는 겁니다.
지금 모델3 롱레인지 기준으로 배터리가 85kwh로 알려져 있는데,
한달 내내 100%를 사용해도 배터리 80%정도 사용하는 급이네요.. 충전비용 1.x만원선..?
충전 할인받고, 슈퍼차저, 데스티네이션 같은거 생각하면 더 저렴하겠죵
현실적으로 뭐 한 30w를 하루에 12시간 정도씩 돌리는 경우로 계산해보면 10.8 Kwh인데 이러면 충전비용 1천원대..?
아무튼 이런식의 계산이면 사용자 입장에선 손해보단 이득이 큰 방식이네요.
뭐 부차적으로,
계속 GPU를 돌려대서 장비가 혹사되어 수명이 단축된다거나하는 부대 비용도 생각하긴 해야될 것이고
애초에 차값에 이 계산이 포함되게끔 가격을 올려받고선, 월단위 혜택이 있는것같은 착각을일으키게도 할것이고..
암튼 장사하는 입장에선 머리를 잘 썼네요
그때도 GPU가 많이 부족하다면 모를까... 그냥 상상으로 끝날듯한 발상으로 보입니다.
차량이 미 운행일떼도 에너지 소모하고 있단 걸텐데
전체적으로 큰 발전을 한다면 가능하겠지만 뭐.. 지켜봐야겠죠.
다만 원래는 휴식하고 있을 차량 반도체가 계속 돌아갈텐데.
내구성은 테슬라가 보장해줘야 할텐데 연 몇백 준다고 그걸로 해결될지..
다들 안된다고 했는데
하나하나 해결하면서
되게 만들면
머스크는 그 기분이 어떨까요
날아오른 로켓을 젓가락으로도 잡아 올리는데
과연 이게 진짜 안되는 사업일지...ㅎㅎ
안된다고 하는걸 되게 만드는것에서부터
인류는 진화할거라봅니다