이번 샌프란시스코 정전 사태에서
많은 웨이모 자율주행차가 교차로에서 정지 한 사건에 대해
웨이모의 발표가 있었던듯 한데요.
잘 보이지 않는 신호등에 대해서는 사람이 원격으로 조종을 했는데 너무 많은 신호등이 꺼지니 원격 조종 인력 과부하로 대응을 못 했다고 하는데요.
웨이모의 무인주행의 실상이 이건가 하는 생각이 드네요.😢
레벨 4 자율주행의 "왕"으로 불리는 웨이모는 샌프란시스코에서 자사 차량들이 집단적으로 작동을 멈춘 이유에 대한 보고서에서 다음과 같이 설명했습니다.
"이처럼 대규모의 상황에서 자율 주행 기술을 운영하는 것은 특별한 과제였습니다. 웨이모 드라이버는 신호등이 꺼진 상태에서도 사거리 정지 표지판처럼 작동하도록 설계되었지만, 가장 안전한 선택을 하기 위해 확인 요청이 발생할 수 있습니다.
토요일에 7,000건 이상의 신호등이 꺼진 상황을 성공적으로 처리했지만, 시스템 장애로 인해 이러한 확인 요청이 집중적으로 발생했습니다. 이로 인해 요청이 밀려 일부 경우에는 대응 지연이 발생하여 이미 교통 체증이 심각한 도로 상황을 더욱 악화시켰습니다."
기본적으로 대규모 정전으로 인해 도시의 신호등이 작동을 멈췄습니다. 웨이모 차량이 어두운 교차로에 진입할 때마다 원격으로 연결된 담당자에게 주행 방법을 확인받아야 했습니다. 원격 서비스 센터는 이전에는 이처럼 많은 양의 요청을 처리해 본 적이 없어 완전히 마비되었습니다
진심으로, 운전 결정을 사람이 계속 지켜봐야 한다면 그게 무슨 "자율주행"이라는 말인가요? 이는 자율주행이 LiDAR와는 아무런 관련이 없다는 것을 증명할 뿐입니다. 자율주행은 지능(IQ)의 문제입니다. 자동차가 실제로 지능을 갖고 있는지 여부, 즉 인공지능(AI)의 문제입니다 .
https://twitter.com/tslaming/status/2004028607602274809
문제는 이걸 해결하려는 방식이 더 외부 정보에 많이 의존하는 방법이라는, 조치의 방향성이라 생각 합니다.
계속 지켜보는 것이 아니라, 확인 요청을 했을 때 응답한다는 거네요.
처음엔 신호등 꺼진 교차로가 확인요청을 해야 할 어려운 케이스인가.. 라는데 실망을 했는데, 웨이모가 밝힌 바에 따르면 그 정도로 지능이 떨어지는건 아닌것 같습니다.
시스템 장애로 지원요청이 폭주했다는걸 보면 AI 환각 문제를 걱정하기에 앞서, 사람의 실수로 만들어진 버그에서 자유롭지 않다는 이야기가 되겠지요.
레벨4 자율주행은, 신호등 고장과 같은 비상상황에서 안전 정지 후에 원격제어 요청을 해야 하고, 거기에 즉시 응답해야 한다는 내용이 캘리포니아주 주법에 있습니다.
그래서, 정전된 캘리포니아 지역에서 운행 중인 웨이모 차량들이 다같이 중앙관제센터로 자동으로 문의가 들어간거고, 수동 처리 과부하가 생긴 건입니다.
앞으로는 이런 경우는 자동 응답으로 전환해서 병목현상을 없앤다고 합니다.
말씀하신 법규를 알려주시면 한번 읽어 보겠습니다.
제가 확인 한 AI 답변은 본문과 비슷하게 나오네요.
캘리포니아 주에서 자율주행차(autonomous vehicle, AV)의 신호등 고장 상황에 대한 법규와 대응 방안은 다음과 같습니다.
일반 교통 법규 (모든 차량 적용)캘리포니아 **Vehicle Code § 21800(d)(1)**에 따라, 신호등이 작동하지 않거나 고장 난 경우(예: 정전으로 꺼진 경우):교차로를 접근하는 모든 차량은 완전히 정지해야 합니다.
안전이 확인된 후에만 주의해서 진행할 수 있습니다.
실질적으로 4-way stop(사방 정지) 교차로로 취급하며, 먼저 도착한 차량 우선, 동시에 도착 시 오른쪽 차량 우선 원칙을 따릅니다.
이는 인간 운전자뿐만 아니라 자율주행차에도 적용되는 기본 교통 규칙입니다. 캘리포니아 DMV 운전자 핸드북에서도 신호등이 꺼진 교차로는 사방 정지 교차로로 취급하라고 명시되어 있습니다.
자율주행차 특화 규정캘리포니아 DMV의 자율주행차 규정(Title 13, California Code of Regulations)에서 신호등 고장 상황에 대한 구체적인 별도 규정은 없습니다. 자율주행차는 일반 Vehicle Code를 준수해야 하며, 제조사(예: Waymo, Cruise 등)는 차량이 모든 교통 법규를 준수할 수 있도록 설계해야 합니다.
자율주행차는 SAE Level 4/5 수준에서 Dynamic Driving Task를 수행해야 하며, 이는 신호등 인식 및 예외 상황(고장 포함) 대응을 포함합니다.
DMV 허가 조건: 제조사는 차량이 교통 법규를 준수하고, 안전하게 작동할 수 있음을 증명해야 합니다. (2025년 최신 규정에서도 이 부분 강조)
3대 LLM에게 팩트체크를 시켰는데요 (그록, 제미나이, ChatGPT)
ODD 밖일 때 정지하고 원격 확인 요청을 해야 한다는 내용은 있지만, 신호등 고장이 명시적으로 법에서 특정 케이스로 명시되어 있지는 않습니다.
그런데 웨이모는 스스로 신호 고장 시 4 way stop으로 처리할 수 있는 능력이 ODD에 있음을 밝혔습니다.
명시되어 있는 응급상황의 예로는, fire, flood, earthquake, or other soil or geologic movements, as well as such occurrences as riot, accident, or sabotage 등이 해당됩니다.
웨이모는 이외에도 신호등 고장의 상황에 대해 자체 규정으로 관제센터에 통보하는 프로토콜을 유지하고 있었고, 지난 번 상황에서 이런 통보를 실시간으로 소화하지 못하면서 문제가 발생하였습니다.
비슷한 상황 발생시 지역 전체에 같은 지시를 한 번에 내리는 식으로 변경한다고 합니다.
그게 능력이 없는게 아니에요.
법 알기를 우습게 보는 테슬라는 정지라는 개념이 없어,
아무래도 사고 한번 거하게 치고 엎어질거 같습니다.
자꾸 이상한 거짓말을 하시는데, 테슬라에 무슨 정지가 없습니까?
도로 한가운데가 아니라 갓길에서요.
단순히 신호등 한두개가 한두시간 나간게 아니라 토요일 종일동안 3분의1이 통으로 나갔죠..
길막 하면서 도로 중간에 정지 한게 이전에도 많았는데 이번에는 대규모 발생 한것 같네요. 이런 사건들이 웨이모가 주장 하는 안전을 우선시 하는 작동 방식인가 의구심이 들기는 합니다. 딱 사고 유발하기 좋은 작동 같아 보이는데요.
말씀과 같이 비상등 키면서 길가로 서행 주차가 맞는듯 합니다.😢
막다른 길에서 웨이모끼리 대치하면서 정차하는 경우도 다반사고 지능이 있다고 하기에는 우리 애가 좀 모자라요죠
자율주행은 센서를 뭘 썼나 보다 AI 가 가장 급한 상황 같네요.
https://www.yna.co.kr/view/AKR20181206002000075
웨이모는 2009년부터 캘리포니아, 애리조나, 워싱턴, 미시간, 조지아 주의 25개 도시에서 자율차 시범서비스를 진행했으며, 실제 도로에서 주행거리 1천만 마일 돌파 기록을 세운 바 있다.