여기 올라오는 FSD 영상들 보면 감탄을 자아내게 만드는 것들이 대부분입니다.
하지만 어둑어둑한 시간에 옆에서 날아오는(?) 사슴도 피한다는 그 전설의 FSD가 아직 감독형인 진짜 이유는 바로
이런 것 입니다.
https://www.reddit.com/r/TeslaLounge/comments/1pjr00g/fsd_1421_ruined_it
교통체증 상황에선 차로변경을 여러 번 시도하면서 허둥대고 덜컹(?) 거립니다. 고속도로에서 출구도 못 찾는 경우가 많습니다.
이것 말고도 미친 노인네나 16세 소녀가 운전하는 것 같다는 평가는 쉽게 볼 수 있습니다. 이전 버전에선 안 그랬답니다.
그런데 최신 버전에선 오히려 더 머뭇거린다? 안전을 위해서? 현실은 그런 머뭇거림이 더 많은 위험을 초래하죠.
물론 FSD가 목숨을 구했다는 경험담도 많죠. 살펴보면 그 대부분은 운전자의 자질이 의심되는 것들이지만 그 중엔 정말로
누구라도 사고를 냈을 법한 장면들도 있고 그런 것들은 사람의 시각으로는 인지하기 어려운 상황도 많기에 ADAS의 기능은
훌륭하다고 생각합니다. 하지만 그래봐야 아직 레벨2인겁니다. 그런데 그 레벨2가 날아오는 사슴을 피한답니다?
보시죠.
https://www.reddit.com/r/TeslaLounge/comments/1pojiz0/fsd_blows_stop_sign_at_40mph/
그 날아오는 사슴도 피한다는 FSD는 멀쩡한 건널목 정지신호를 무시하고 유유히 지나갑니다. 이전 버전에선 멈췄답니다.
근데 버전이 올라가면서 안 멈춘다? 왜죠? 옆에서 날아오는 사슴은 보이는데 정면의 표지판은 안 보이는 걸까요? 이건
버전 최신버전을 따질 문제가 아니거든요. 도로표지와 노면표지는 지시사항이고 그걸 준수하는 건 기본중의 기본입니다.
좌회전 only에서 그냥 직진하기도 합니다.
옆에서 날아오는 사슴은 보이는 데 노면표지는 안 보이는 걸까요? 비가와서 물이 넘치는 상황도 아닌데 말이죠.
심지어는 정지된 차량을 추돌하기도 합니다. 옆에서 날아오는 사슴은 보이는 데 정면의 차량은 안 보인다?
https://www.reddit.com/r/TeslaFSD/comments/1pa8pqz/fsd_fail_tesla_did_not_want_to_stop_had_to/
역주행은 애교죠.
https://www.reddit.com/r/TeslaFSD/comments/1paavp8/fsd_1417_fail_wrong_way_in_oneway_road/
https://www.reddit.com/r/TeslaFSD/comments/1ocgbp6/navigation_issue_caused_fsd_turned_into_reversed/
레딧도 그렇고 여기도 그렇고 FSD를 마치 완전자율주행기능인 것 처럼 생각하는 사람들이 꽤 많죠. 그래서 대부분의 상황에서
나는 운전할 필요가 없었고 FSD가 다 해줬다... 주차만 내가 했다라는 경험담들이 널려 있습니다.
하지만 여전히 레벨2인 이유는 바로 이런 것입니다. 언제 어떤 이상한 짓(?)을 할 지 모릅니다. 멀정히 잘 가다가 갑자기 텅
빈 반대편 차로로 중앙선을 넘어서 돌진 하는 사례도 있죠.
사람보다 낫다는 댓글도 많지만 평소에 사람은 하지 않을 행위를 하는 AI가 사람보다 낫다면 면허를 어떻게 땄는 지 스스로를
의심해야 할 것입니다. 레벨2는 운전자를 대신해서 운전하는 수준이 아니죠. 운전자를 보조하는 기능으로 사용하면 매우 훌륭
하지만 현실의 도로위에선 우려했던 바와 같이 이미 FSD가 운전하고 사람이 감시하고 있죠. 사람이 FSD의 오류를 인지하고
대응할 때 항상 시간이 충분할까요? 그렇다면 그건 운이 좋은 케이스일 수 도 있다는 걸 명심해야 할 것입니다.
강제 사항도 아니고 소비자의 선택 사항입니다.
한문철 TV 보시면서 사람들 운전 못하게 해야 한다고 글 쓰지는 않으실거잖아요.
거지 같으면 안쓰면 되는거죠 ㅎ
내가 안 써도 다른 사람들이 씁니다. 심지어 오남용을 합니다. 우린 그런 사람들과 도로를 공유합니다.
"도로표지와 노면표지는 지시사항이고 그걸 준수하는 건 기본중의 기본입니다."
E2E라서 그런 것 아닐까요. 학습을 시켜도 제대로 할지 안할지 확신할 수가 없죠. "규칙"을 정해줄 수 없으니까요.
규칙은 학습으로 처리하면 안 됩니다. 선택이 아니라 정해진 규칙이니까요. 하지만 그 규칙도 경우에 따라서는 깨야 하는 경우가 있는데 그런 걸 어떻게 구분할 것인가... 가 관건이죠.
이거 단순한 확률연산기에요. 확률연산만 가지고는 절대 지능이 될수 없습니다.
결국 현재 단순 확률 연산기에 불과한 AI수준 가지고
자율주행한다고 하는건
딱 chatGPT gemini 수준인것입니다.
사람이 하는 그대로 학습하기 때문에,
인간이 하는 온갖 기행도 그대로 따라 할텐데요.
문제는 사고나면 보험만 가지고 끝나는게 아니고요, 과실에 따라 머스크가 교도소에 들아가야 합니다.
그래서 자율주행은 인간 이상의 운전 실력이 되야 구현이 가능한데요.
현 AI는 문제가 군중심리 그 이상을 초월할수 없어요. 딱 사고뭉치 인간수준이죠
확률연산기는 정답 오답을 찾는게 아니라, 유치원생이 어른들 하는 행동을 보고 그대로 따라하는거에 불과합니다.
결과적으론 오~ 저런게 된다고 하겠지만, 정답 오답을 모르기 때문에, 어리석은짓 무모한 행동 같이 따라하게 됩니다.
FSD는 레벨2로 보면 오버스펙이고, 레벨3로 보면 유치원생에게 운전대 맞긴 꼴입니다.
운전은 군중들 보고 흉내내는게 아닌 정답과 오답을 알아야 하는 문제라서,
오답을 어떻게 처리할지 문제로 자율주행은 생각보다 어려울겁니다.
오답 발생시
어른들 하는것을 보고배운 유치원생에게 맞긴다. -> FSD
시스템 정지후 지능을 가진 관리자 명령을 기다린다 -> 웨이모
이게 웨이모와 테슬라의 차이입니다.
뭐가 더 나은 방법인지 아직 결론내긴 이르다고 봅니다. 일단 센서의 커버리지가 사람보다 나은 경우는 많거든요. 결정은 또 다른 문제지만요.
제한속도 80km 좌회전 전용차선에서 직진하는 차량을 봤습니다
편도 3차선 도로 2차선에 멈춘 차량을 많은 차량이 피해갔습니다
고장이었나? 다음 사거리에서 만났죠
모두 오늘 경험입니다 방향지시등은 얘기안해도 뭐..
단편적인 부분으로만 ai와 사람간에 우위는 영영 평가하기 어려울수 있다 봅니다 다양성에서 사람이 더 창의적일걸요?
레벨2에 갇혀있더래도 더욱 적극적으로 기술을 보여주고 발전했으면 해요
물론 사용자는 주의해야겠죠
이름만 보면 이미 레벨5쯤 되는 것 같지 않나요? 이 글은 그런 칭송과 찬양을 받을만한 수준인가에 대한 반박입니다.
오토파일럿 (룰기반) 을 경험 하신것 같네요.
주행보조에서 자율주행 넘어가는건 그런 엣지케이스를 계속 해결하면서 나아가는 끝없는 99.999% 의 행렬 같네요.😢
팬텀브레이킹이 나온지가 언젠데 아직도 엣지케이스 타령일까요? 반대로 생각하면 그것도 해결 못하면서 로보택시는 어떻게 운용하겠다는 것인지 의심을 해야 하는 단계를 지났다고 봅니다. FSD에서도 팬텀브레이킹은 현재 진행형입니다.
또한 주행보조도 아주 단순한 크루즈 기능부터 감독형 FSD 까지 보기만 해도 엄청난 체감 차이가 있는데 이런 차이를 너무 가볍게 (폄하?) 보는것 같고요.
실제 직접 (만들려 노력) 해보니 너무 어렵다는게 대부분 경험자 얘기지만요. 결국 지금도 시간과 노력이 아직도 많이 필요한 시점 같네요.😢
크루즈든 FSd든 레벨2입니다. 레벨3라고 못하는 이유는 똑같답니다. FSD는 레벨2.5나 2.8이라고 주장하고 싶겠지만... 그런거 없어요.
신뢰에도 단계는 있습니다. 근데 지금의 FSD는 마치 레벨4쯤 되는 것 마냥 여기저기서 떠들어대고 있고 사람들은 매우 단편적인 정보만으로 인지를 합니다. 광고하기 좋은 사례만 퍼오는 사람들의 목적은 너무 뻔하죠.
다만 이러한 정성이 담긴 글이 순수한 경각심 환기인지 진영론리의 결과인지는 과거 본인께서 굴당에 쓰신 댓글로 갈음해 봅니다.
단점만 보는 사람은 단점만 보인답니다.
실제로 지인중에 HDA 믿고 딴 짓 하다가 출고 6개월만에 폐차한 분 있어요.