설치한 벽 앞에서, 테슬라 오토파일럿이 자동으로 중지되었다고 합니다. 조작 논란에 종지부를 찍었습니다.
"Here is the raw footage of my Tesla going through the wall. Not sure why it disengages 17 frames before hitting the wall but my feet weren’t touching the brake or gas."
번역: "여기 제 테슬라가 벽을 통과하는 원본 영상이 있습니다. 벽에 부딪히기 17프레임 전에 왜 해제되는지 확실치 않지만, 제 발은 브레이크나 가속을 밟고 있지 않았습니다."
https://twitter.com/MarkRober/status/1901449395327094898
여기에도 저 영상 관련글이 3개는 올라와서 댓글란이 불타올랐었네요.
저는 논란에 종지부를 찍을 새 영상을 올렸나 했는데, 저 트윗이 어제 논란을 활활 불태우게 만든 그 트윗이네요..
사실상 테슬라가 실패한 환경은 대부분 사람이 운전했어도 못피했을 상황(시야 확보가 안되었거나 지나친 돌발상황)이긴 했죠.
사람보다 더 뛰어나면 물론 좋겠지만, 저걸로 테슬라가 위험하다고 주장하려면 자율주행이 아닌, 사람이 운전하는 차는 다 위험하다는 결론이 될 듯 합니다.
객관적인 영상이 되려면 각 장비들의 원가도 비교하고, 카메라에 유리한 환경에서도 실험하여 각 수단의 장단점을 비교하는 식으로 했었어야하는데...
이미 라이다 업체에서 광고비 후원 받아 영상 제작하는 시점에서 너무 어려운 바람이죠.
신호등과 같은 시각적 정보를 판단해가며 주행해야 할 때는 라이다는 카메라 도움 없이는 불가능 한 것으로 압니다.
신호등 뿐만 아니라 정지신호, 건물내 층수표시, 속도제한 표시 인식 등 각종 시각적 정보들을 받아들이고 주행에 반영하는 능력은 라이다 독자적으로는 힘들고 카메라가 훨씬 유리하죠.
라이다 채용 차량도 카메라는 사용하고 추가로 depth 정보를 이용하기 때문에,
카메라+라이다
vs
Only 카메라
에서 Only 카메라일 때의 장점을 설명해야 하는 것이라, 인지 성능에서 더 유리한 상황을 설명하기는 어려울 것 같습니다.
그보다는 AI모델 구동의 현실적인 문제
리던던시 구조로 만들면 팬텀브레이킹을 유발한다거나, 뉴럴넷 사이즈를 키웠을 때 연산성능의 제약이라거나 그런 문제점이 커서 배제하는거죠.
우리가 가시광선으로 인식하는 세상 대부분이 카메라에 유리한 환경이죠. 텍스트와 기호, 신호등, 차선, 물체의 재질과 색상, 그림자, 주위 차량의 방향지시등, 노면 질감, 바닥의 패턴, 교통 콘, 제스처와 표정을 통한 의도, 날씨로 인한 반사, 시간대별 빛의 변화와 그림자 등등 ..
마크로버 영상을 느리게 재생하면 핸들을 왼쪽으로 살짝 토크를 줌과 동시에 오토파일럿이 해제되는 것을 알 수 있습니다. 홀리쉿에 파묻혀 1배속에서 안들리는 정상적 해제음도 들을 수 있죠.
(어쨋든.. 해제가 안됐다고 벽을 안받을 것이라는 이야기는 아님)
당시에 경황이 없어서 본인도 몰랐을 가능성이.. 아주 없는 것은 아니기는 합니다.
카메라에 의존하는 기본 오토파일럿은 벽을 인식할 수 없습니다. 분류된 오브젝트가 아니면 없는 것이나 마찬가지라서요.. 그런데 뭐 대부분의 주행보조가 그렇죠. 그렇지 않다면 도로 주변의 모든 구조물을 감지하고 벌컥벌컥 멈추게 될 것입니다.
대신 분류된 오브젝트였다면 멈추거나 AEB가 작동했을 것입니다. 대부분 제조사가 제공하는 주행보조는 자신의 주행 차로에 정상적으로 정지 중인 차량도 인식하지 못하고 추돌하거나 AEB가 발동합니다.
오토파일럿에 많은 것을 바라면 안됩니다.
이미 주요 기능 개선이 5년째 중단된 구형 기능이기도 하고요..
(만약 카메라에 의존하는 감독형 FSD가 벽을 통과했다면 반드시 수정해야 할 문제입니다.)
마크로버가 1차 실험에서 기획 의도와 달리 차가 멈춰서 재실험 했을 것이라는 의혹을 해소하기 위해 1차 실험 영상을 공개해야 합니다.
실험 조건을 바꾸지 않았다면 의심할 이유가 없었을 겁니다. 때론 멈출수 있고 때론 못 볼 수도 있으니까요. 그런데 대만에서 오토파일럿이 쓰러진 트럭을 들이 받아 논란이 됐던 시기에 비해 기술적으로 한 단계 진보되어 있어서 멈출 수 있을 가능성이 있습니다.
카메라에 의존한 오파가 벽을 통과했다라는 사실 자체가 달라질 여지가 있어요.
처음 시도에 통과했다고 합니다. 대신 옆이 찢어지며 통과해서 그림이 예쁘게 나오지 않아 3주 후 스티로폼으로 바꾸고 다시 촬영한 것이라고 하네요.
(영상을 보시면 가상벽이 어느 화면은 천으로 되어 주름이 진 모습이고 어느 화면은 판판한 모습이 나오는 것을 볼 수 있습니다.)
마크 로버가 그렇게 주장하는 인터뷰는 보았습니다.
그런데 못 믿겠습니다.
스티어링휠로 해제될 수 있다는 것을 몰랐을 리가 없는 사람이 '가속페달/브레이크 페달 안 밟았는데 추돌 전에 자동으로 풀린다'며 의도적으로 시스템에 대한 신뢰에 먹칠하는 발언을 하고,
실험 계획에서 변수 통제가 얼마나 중요한지를 아주 잘 알고 있을 사람이 실험조건이 다른 두 번의 실험을 짜깁기 하고, 굳이 이뻐 보이는 연출을 위해 다시 촬영했다는 점에서 신뢰가 떨어졌습니다.
그는 무지한 척 하지만, 다들 알잖아요. 그의 커리어로 볼 때 그럴리 없는 사람이란걸.
게다가 구글과 광고 계약 해놓고 픽셀폰으로 찍는척 해놓고 아이폰으로 촬영한 기만까지 들통난걸요..
또 있네요. FSD는 목적지를 찍어야만 동작하니까 쓰지 않았다는 발언. 이것도 거짓인데 무지해서 저렇게 말했으리라 생각되지 않습니다.
저도 테슬라 오너가 그렇게 말했다는 것이 믿기지는 않는데 뭐 그랬다고 하니까..
사람 속을 어떻게 알겠습니까..
오토파일럿이 사용자의 조작 없이 해제될 때는 화면에 빨갛게 경고를 띄웁니다.
만약 이 사실의 반례가 되는 증언이 있다면 마크 로버의 주장을 믿어줄 수 있을 것 같아요.
물론 오토파일럿이 해제된다 안된다의 사실은 오토파일럿이 도로 그림이 그려진 벽을 들이 받는다, 그렇지 않다와는 전혀 상관 없는 주제입니다. 그러나 경고 없이 해제되는 경우가 있는지 없는지에 대한 또 다른 논란을 낳는 주제이기 때문에 그가 거짓 주장을 하고 있다면 중요한 문제가 됩니다. 그는 라이다의 필요성과 상관 없는 (사용자의 의도적 조작 없이 해제될 때 경고도 안 한다며) 오토파일럿 깎아내리기를 하는 것이니까요.
그 외에 의심이 사그라들지 않는 이유는
1차 실험의 결과 주장도 신뢰할만한 근거를 제시하지 않고 있기 때문입니다.
테슬라의 경우 오토파일럿에서 레이더를 빼면서 2D 차선 인식이 아닌 3D 공간인식으로 전환 되었습니다. 그렇기 때문에 멀리서부터 차선에 걸쳐 있는 장애물은 인식할 가능성이 있습니다.
마크 로버가 공개하지 않고 있는 1차 실험 영상에서 벽을 실제로 들이 받았는지 여부는 그가 영상을 공개하지 않는 한 알 수 없는 사실입니다. 그래서 의심이 걷히지 않습니다.
그의 주장대로 1차에서 들이 받았는데 단순히 박살나는 모양이 안 이뻐서 2차 촬영을 한 것이라면 굳이 1차 실험 때와 달리 최대한 가까이 붙을때까지 가속한 뒤에 오토파일럿을 체결할 이유가 없다고 생각 됩니다. 그가 무지하고 멍청한 사람이라면 그럴 수 있지만, 그의 경력을 보면 실험의 변수 통제를 못할 사람이라고는 생각되지 않으니까요.
1. 라이더를 위해 의도적으로 조작했다는 주장은 오바라고 생각합니다
밝혀지면 매장당하고 소송까지 각오해야 할텐데...
2. 스티어링에 힘을 가하면 오토파일럿이 해제되는 것을 몰랐고 그림을 예쁘게 만들기 위해 살짝 조작한 것 아닐까
(잘 부숴지라고 만화풍의 절취선을 만들어놨으니까요)
3. 실수를 인정하고 재시험하면 깔끔할 것 같은데....
폭우 실험이던가요
'오토 파일럿이 켜져 있으면 차선을 넘어갈 수 없으므로 오토파일럿 상태가 아니다'
라는 이야기가 있던데 이게 더 문제 아닌가 싶어요
실험영상에서는 차선도 아니고 중앙선을 따라서 쭉갑니다
실험의 의도나 과정, 결과 그리고 그에대한 본질적인 내용을 담은 메시지보다는
실험 속의 한 장면에 관심이 집중되고,
또 그에 대한 반발로 실험 과정 속의 티끌을 찾아내기 위해서 여러 주장이 제시되고,
맞다 아니다 부터 여러 장르의 설전이 오가는 상황이 반복되는군요.
대부분의 다른 이슈들은 그냥 묻히고 말텐데, 특정 몇 주제들은 이런 상황을 피해 갈 수가 없군요.
이미 논란된것 자체가 루미나 입장에서는 광고비 뽑았겠네요. 하루만에 주가도 20%이상 오르고
과거에는 자기 목소리내고 시청자들 입장에서 잘만들어서 커나간 대형유투버들이 그냥 조회수, 광고 노출로는 성에 안차고 욕심부리다 보니, 레가시 미디어랑 다를게 없어지네요 ㅎㅎ
위에 공유되는 영상이미지는 테슬라와 라이더차량의 대결만 있는거 같지만 실제 컨텐츠 내용은 라이더에 대한 홍보입니다. 놀이동산의 실내 어두운 청룡열차 같은 걸 타면서 라이더로 스캔하고 나중에 그 레일 구성을 3D 출력으로 재현하는 것이 주 내용인데 (라이더가 사람이 못보는것도 잘 볼수있다는 요지)
후반부에 갑자기 테슬라와 라이더 차랑의 물체 감지 테스트가 나옵니다.
그런데 이부분에서는 실험조건 설명이 많이 부실합니다.
몇미터에서 언제 무슨기능을 동작해서 몇km속도로 질주한다 / 전체영상은 이거다 등 이런게 없습니다.
현란한 교차편집으로 재미는 있어보이지만 정확하게 뭔지는 알수 없게 되어 있습니다.
이부분이 많은 논란이 있는거 같습니다.
추가로 전 궁금한것이
라이더 차량이 폭우실험시 폭우앞에서 정지하는것이 어린이 마네킨때문일지 폭우 물줄기 때문인지가 궁금하더라구요 라이더 차량 모니터에서는 어린이 마네킨도 잘 식별이 안되는것처럼 보였거든요
영상 주작을 통해 '어? 루미나 라이다 설치 차량도 혹시 브레이크 밟아 선거 아니야?' 라는 의심을 제기해도 할말 없게 만들어 버렸죠..
라이다가 모든 장애물에 정지하게 만든다면 텀블위드나 비닐봉지에도 급정거를 해버릴거라서, 라이다는 반드시 비전시스템과 결합하여 오브젝트를 식별해야 합니다. 그래서 정지 했다면 아무래도 시야에 마네킹이 있다가 사라졌기 때문에 방금 전까지 존재하던 마네킹 기억으로 세웠을 가능성이 높을 것 같습니다.
만약 테슬라를 FSD로 시험했다면 이미 마네킹을 보여준 뒤 갑자기 다른 오브젝트가 튀어나온 것이므로, 장기메모리의 추론에 의해 멈췄을 가능성이 있습니다. 이건 라이다냐 카메라냐의 문제보다는 연속된 타임프레임을 이용한 추론의 영역에 가깝습니다.
안개, 역광에서는 라이다가 더 유리한게 맞구요.
웨이모처럼 라이다 덕지덕지 붙은 차량 소유하고 싶지는 않네요................