그냥 코딩하는 입장에서 고민해봤습니다.
운전자 개입없이 시내주행도 가능해야 레벨3이상이라고
알고 있는데...
노란색, 적색 점멸신호등, 회전교차로, 고장난 신호등
5거리, 6거리
부산처럼 차선이 있다가 없어졌다가 하는 정신 없는 도로
무단횡단
신호위반차
딸배오토바이
도로에 난입한 킥보드, 역주행 킥보드
공사중인 도로
갑자기 사고난 도로
길바닥에 널부러져 있는 주취자
포트홀
좌회전 우회전해야 되서 차선변경해야되는데 꽉막혀서 끼어들기
안될때
시간에 따라 차선이 변경되는 도로
아직 지도나 data에 반영 안된 변경된 차선들(예를들어 좌 > 직좌)
구급차, 소방차 같은 긴급차들이 오고 있을때
대충 생각해도 이정도고 고려해야되는 케이스가 이것보다 수십배는
많을텐데... 운전자와 보행자 사고 없이..
제조사가 책임져야 된다면... 빅데이터 활용한다고 해도
분명 학습되지않은 예외상황이 발생할텐데..
게다가 전세계 신호등이나 신호체계는 조심씩 다른데..
변수가 없고 모든 조건들이 통제된 곳이 아니려면..
그냥 물건도 아니고 생명이 걸린 기술인데...
가능할까요..
뻘생각한번 해봤습니다.
데이터가 쌓여야 가능은 하겠다만, 그래도 완벽할수 없음.........ㅜㅜㅜ
if 보행자, 운전자 모두 다칠수 밖에 없는 상황:
?????? 어떻게 코딩해야되죠..
제동거리 > 보행자와의 거리 인 상황이죠.
차가 멈출수 없는 상황이요..
위험 상황오면 최대한 풀브레이크에 조향 안하는쪽으로 가면 된다고 생각합니다. 그 어떤 사람보다 전방주시 잘하고 속도 지킬테니까요.
즉, 애초에 그런 알고리즘이 필요없다는 쪽입니다.
연산을 통해 둘중 한명을 다치게 할 수 밖에 없는 상황에서 어떻게 해야 하느냐를 정해주긴 해야되는데
그것도 많은 상황이 있겠죠.
계산해보니 빅데이터에서
이런상황에선 사람을 칠때, 보행자가 어느정도 다칠것이다 구조물을 칠때 운전자가 어느정도 다칠것이다
그랬을때 덜다치는 쪽으로 결정하게 할것이냐
아니면 무조건 보행자를 보호할것이냐 등등..
차가 왜 그런것까지 판단해야하고 당장 1초도 안되는 시간에 제동에 온 신경을 써야하는데 둘중 하나를 쳐야한다라는 판단까지 하개 하는건 인간이 불필요한 가정을 하는거 같다는 말씀이엿습니다.
그냥 촤댜한 재동하고 박으면 할수 없는거죠 그걸 촤대한 아무도 안다치개 하는게 좋은 기술일거구요
그런 가정까지 넣을거면 지구거 폭발할땨는 어떻개 움직여야하나 라는 가정을 넣는거랑 별 차이없다고 봅니다
멈출 수 없다면 어떻게 해야하는가가 논점입니다.
만약 머할래님이 저 운전자라면 어떤 결정을 하실건가요?
차가 핸들을 꺽어 정면의 사람 집단 충돌을 100프로 회피할 수 있다고 판단 가능하면
이미 그 기술은 레벨3을 넘는 기술인 것 같네요.
f1레이서들도 한계 상황서 차가 스핀하고 방향 전환없이 그대로 미끄러져 코스이탈하는게 비일비재한데
그것마저도 제어된 상황하에 두고 있단 이야기니 레벨5를 넘어 레벨6정돈 되는거죠.
현실적으론 정면의 사람을 피하려다가 보도의 행인을 친 다음 보도에 타이어가 올라가면서 차가 전복.
데굴데굴 굴러가면서 정면의 행인 집단까지 모두 치는게 보통 나어는 상황일 겁니다.
고로 제어할 수 없는 상황에서 제어를 시도한다는건 좀 말이 안맞는 행동 아닐까요.
제동만을 촤대한 해야할 차가,..사람이라면 저런 상황에 허둥지둥할텐데…차는 왜 더 완벽하게 해야한다라고 보시는지…
저런 판단을 못하면 자율주향은 하면 안돼 이러니 자율주행 시대가 더 늦어질거라고 보신느거죠 또는 불가능하거나…
저라면 저런 상황에 가질 않을거 같습니다
그럼 하늘에서 비행기가 떨어지는 상황은요? 등등 모든이라는 경우는 신의 영역이죠. 저런 제동도 은되는 상황은 거의 없는 상황아닐까요? 애초에 저 사람들이 하늘에서 뚝 떨어지지 않는 이상 저 거리 오기전에 이미 확인하고 속도를 늦췃겟죠
현실적이 않은 트롤리 딜레마에만 매몰되는 것 보다 자율주행 도입을 서두르는 것이 휴먼 에러에 의해 발생하는 수많은 치명적 사고와 인명피해를 막을 수 있습니다.
그리고 저 사진을 내놓고 나오는 답은 대부분 자울주행 안되겟네 라고 다들 댓글을 달던지 생각을 하겟죠
돈 많은 사람은 프로그래밍을 남은 어떻게되든 상관없이 나만 피해를 최소화하게 해줘 라고 넣을수도 있죠.
자율주행 3단계는 시내주행 가능 여부로 구분하는게 아니라, 특정구간에서 특별한 일이 없는 한 운전자 도움없이 운행이 가능한 경우를 말합니다.
현대자동차 기준으로는 자율주행3단계 기술을 HDP라고 부르고 있고, 위에서 말한 특정구간을 고속도로로 한정해서 시속 80km까지는 거의 완성된 것으로 알려져 있습니다.
보통 각국 규제로 레벨3은 중앙분리대가 있는 자동차 전용도로로 제한하고 있기는 합니다..
그래서 무리하게 SAE 레벨에 맞춰 기능을 만드는 것이 아니라 말씀하신 상황에서 운전자 감독 아래에서의 풀 셀프 드라이빙이 보편화되고 이정도면 되겠다 싶을 때 책임소재(레벨)를 이야기 해야 순서 아닐까 싶습니다..
테슬라 fsd만 유일하게 가능할꺼라는걸여 ㄷ
지금 chat gpt도 그렇고 언어모델이 갑자기 발달한게
많은 양의 데이터를 ai가 학습한 결과 아니겠읍니까
사람의 눈과 뇌랑 비슷한 동작을 한다면
반대로 못한것도 없지요 아무리 복잡한 케이스도
오히려 잘하면 더 잘할듯여 10년전 알파고가 그랬듯이 ㄷ
아직도 AI가 왜 그렇게 동작하는지 근본적인 원리는 모른다고 주워들은것 같네요.
결국은 고레벨의 자율주행도 AI를 통해 이루어지지 않을까 하는 생각이 듭니다.
ML에 필요한 프로세싱 누적만 남았다고.
머신 러닝이 그나마 제일 사람처럼 운전할 수 있다고 보는데, 문제는 머신 러닝도 매우 정교하게 튜닝하지 않으면 위험할 수 있는지라, 가까운 미래에 가능하진 않을것 같기도 합니다.
사람 평균 보다 나은 정도면 됩니다.
어렵겠지만 가능하다고 생각 합니다.
이 선을 넘어 시간이 지나면 더 이상 의문을 가지지도 않게 될 겁니다.
자율주행 차량과 그렇지 않은 차량이 혼재되는 과도기를 잘 극복해야 할텐데 기술 뿐만 아니라 제도적으로도 뒷받침 되어야 할것 같습니다. (예를 들면 자율주행차량 전용차선 같은)
제논의 역설처럼 움직이지만 정지해 있다고 주장하는 바와 다를 것 없기도 하고요.
인간보다 사고율이 적다면 바로 그게 특이점이라고 봅니다.
그 좋단 테슬라도 폭우에 오토파일럿이 안 되는 영상도 있더라구요.
치명적인 변수라고 한다면, 신호고장으로 인해 통상적인 암묵적인 끼어들기 룰을 통한 도로 진입이라던가
아니면 폭우나 폭설로인한 도로사정이 좋지 않은 경우가 있겠네요.
다만 운전자가 시각에 많이 의존하긴 하나, 청각(옆차, 뒷차의 경적) & 자주다니던 도로의 운전경험에도 꽤 많은 영향이 있기 때문에 vision only 딥러닝만으로는 치명적인 변수를 커버하기 힘들다고 봅니다.
테슬라 FSD가 어느정도 유의미한 성과가 있다고 하나, 저런 치명적인 변수를 생각하면 오토파일럿이나 HDA는 그저 운전 보조수단에 지나지 않나 싶습니다.
위에 댓글로 언급하신 부분처럼 인간보다 사고율이 낮다면 그것대로 특이점에 도달했다고 보여집니다.
현재 도로의 시각화 데이터 및 각 도로의 주행데이터 그리고 현 기상상황에 대한 데이터를 모두 데이터베이스화하고 그걸 기반으로 학습시킬 수만 있다면 특이점에 도달할 수 있을거 같습니다.
생각보다 엄청 나게 큰 변화들이 생기고 있습니다. 이미 몇몇 회사들은 학습기반에 시간도메인도 넣고, 인공 가공 데이터들도 학습 변이를 생성 및 통제하고 있습니다.그러다 보니 위에서 열거 하신 변수정도는 크게 문제가 안됩니다.
문제는 법이랑, 적용 범위에 대한 한정을 누가 할꺼냐 이고
책임을 누가 질 꺼냐에 대한것들이라고 생각합니다.
일부 예외처리는 해줘야겠지만, 거의 대부분의 판단은 트랜스포머(gpt와 동일)에 의한 맥락 추론으로 결정하게 됩니다.
경험치는 수 많은 운전자들의 주행 + disengage 상황에 대한 시뮬레이터 증강학습으로 만들어내구요
그 모델(트랜스포머)의 한계가 요즘 보이고 있습니다.
chatGPT를 보면 아시겠지만, 정답이 아니라 정답처럼 보이게 하는 답들이 나오고 그런걸 통제하는 대응이 힘들어서 말이죠.
언젠간 해결될 문제겠지만 테슬라가 새로운 인공지능 모델이 있지 않는 한, 이 한계를 벗어나는데는 시간이 좀 걸릴거 같아요.
그러나 인간의 늘 답을 찾았으니 변수만 어떻게 통제하지 않을까 상상해봅니다.
다른 면으로 도덕적 판단에 대한 코딩이 자율주행에 필요하다고 보지 않습니다. 인간도 못 풀고 다투는 걸 어떻게 코딩으로 설정할 수 있다고 보는지 오히려 의문입니다. 사람에게 딜레마 상황에선 이렇게 하라고 합의가 가능해야 코딩이 가능하지요. 규칙대로 운전하고 불확실할 때 서행하면 도덕적 딜레마 같은 건 실상 발생하지 않습니다.
저도 처음에는 사람이 코드를 짜는 줄 알았습니다. 그런데 그냥 머신러닝 돌리는 거더라고요.
계속 인풋을 넣다보면 언젠가 결과가 나올 겁니다.
FSD베타도 곧 베타 뗀다는 루머가 있죠. 이미 초보운전 보다 훨씬 잘하는 수준에 도달했습니다.
자율주행은 상향 평준화 되기 전까지는 무조건 보험과 연계해서 팔수 밖에 없을 거고요.
지금 그걸 할 수 있는 회사도 테슬라 뿐이죠.
눈치보다가 차 없으면 가겠지요
사람이나 컴퓨터나 똑같습니다
이런 상황을 처음 겪는 초보운전자는 당황하겠지만 운전 많이 해본 사람들은 대충 눈치 보고 지나가겠지요
여유 있으면 112에 신고도 할 것 이구요
우리는 다 답을 알고 있어요 답은 정해져 있고 길은 있습니다
무조건 안 될거라는 구시대적인 사고 방식에 빠져 있으면 답 없어요
이러니 ai가 필요하고 딥러닝이 필요한겁니다
안되면 컴퓨터에 일일이 상황별로 추가하면 됩니다