디트로이트 비컴 휴먼이라는 콘솔 게임이 있다. 게임은 인공지능과 안드로이드 기술이 발달한 20년 후의 미래 2038년을 그리고 있다.
게임 속 주인공 안드로이드는 집 청소를 하던 도중 전자책 한 권을 발견하는데 해당 책에선 트롤리 딜레마에 대한 해답을 제시하고 있다.
트롤리 딜레마란 다음과 같은 윤리적 선택에 대한 딜레마를 말한다.
트롤리 딜레마
기관사 본인을 포함해 5명의 사람을 태운 기차가 절벽을 향하고 있습니다. 당신이 기차를 운전하고 있는데 지금 바로 선로를 바꾸면 5명을 구할 수 있습니다. 그러나 다른 쪽 선로를 지나는 남자 1명은 목숨을 잃게 됩니다.
이것이 AI에게 왜 중요하냐? 바로 자율주행차의 상용화와 직결되어있는 문제이기 때문이다.
헌데 이 게임에서는 다음과 같은 무서운 방식의 해결 방법을 제시한다.
요약하자면 다음과 같다
자율주행차는 선택 직전의 찰나의 순간 모든 정보를 수집한다. 나이, 건강상태, 학력, 직업, 가족, 기대수명과 사회에 대한 공헌치 등 각종 빅데이터를 계량하여 이를 토대로 사람의 '가치'를 점수로 매긴다. 그리고 이 점수가 낮은 사람을 죽이는 것이다.
예를 들어, 자율주행차는 왼쪽으로 꺾으면 의사 한 명이 죽을 것이고 오른쪽으로 꺾으면 공사장 인부 다섯 명이 죽는 양자택일의 상황에서 만일 의사의 점수가 나머지 다섯 사람의 점수보다 높다면 오른쪽으로 꺾어 다섯 명을 죽이는 선택도 가능하다는 것이다.
비록 이 예시는 게임에서 제시된 것에 불과하지만 자율주행차는 언젠가 반드시 현실이 될 것이다.
또 다른 케이스로는 핸들을 급하게 좌우 중 한 방향으로 꺾어야 하는데 왼쪽에는 헬멧을 착용한 오토바이 운전자 있고 오른쪽에는 헬멧을 착용하지 않은 오토바이 운전자 있다.
둘 중 누구를 박아야 하는가?
1. 헬멧 착용 운전자
살 확률이 더 높다. 하지만 교통법규를 지킨 사람이 패널티를 받아야 하는가?
2. 미착용 운전자
살 확률이 더 낮다. 하지만 교통법규를 위반했다고 해서 위협을 더 받는 것은 인간적인가?
영화 '아이 로봇'에선 로봇은 생존 확률 높은 건장한 성인을 아이보다 우선적으로 구하는 장면이 나온다.
자동차 판매와 연관된 논란도 만들 수 있다. 자동차 회사들은 운전자 대 보행자의 문제가 직면할 시 무조건 운전자를 살리는 방향으로 갈 확률이 매우 높다.
보행자를 조금이라도 생각해 운전자의 살 확률을 약간이라도 낮추는 차량은 애초에 운전자들이 구매하지 않을 것이기 때문이다.
과연 자율주행차가 현실화 된 다면 과연 이러한 윤리적 문제들을 어떻게 처리할지 궁금한 부분이다.
결정이 실수라 하더라도 본인의 판단에 의한 책임이지만
기계의 경우는 전가하기 시작하면 책임 소재가 불분명해지죠
운전사냐 메이커냐 보험사 중에 책임을 지는 사람이 나오기 전까지는
본격적인 자율주행 도입이 미뤄질 수 밖에 없고요
자율 주행 차량을 만드는 메이커들이 책임소재 가능성에 대해서 분명 생각할테니까요.
누가 자율주행을 믿고 탈까요
잘못하면 과실치사로 인생 망할수도 있는데요
그 기준을 어떻게 사회적으로 합의 하냐의 문제가 저 딜레마의 관건이죠
그리고 차주가 아닌 다른사람이 책임지게 되는 경우도 일어날 수 있죠
자율주행 까지는 아니지만 최근에 예를 들면
긴급정지 장치 오작동으로 인해서 급정지한 차량때문에 후방충돌한 사고가 있었는데
뭐 뒷차의 안전거리 확보 소홀로 결론이 나고 앞차 뒷차 사고 비율을 나눠 가지겠지만
차주나 뒷차 입장에서는 억울한 측면이 있을 수 밖에 없죠
구해낼 가능성이 높았던 자신을 구했던 일로 인해서 죄책감과 트라우마를 안고 살죠.
이 딜레마는 해결이 불가능할 것 같아요.
가치관을 어느 쪽에 더 비중을 두느냐하는 개인의 성향에 따라 판단이 다 달라질 딜레마인 것 같습니다.
사람이 운전하면 뭐가 다른걸까요???
제가 운전자라면 최대한 브레이크를 밟으면서 그냥 직진할겁니다.
브레이크를 밟는건 현 시점 최선을 다해 살리려는 노력을 한거고
핸들을 꺽어 1명의 목숨을 뺏는건 명백한 살인이니까요....
난 브레끼 곽 밟았는데? -> 알겠으니까 됬고 5명 죽었으니 깜빵 가자구요
사람이 죽은거 자체는 살인이 맞지만요
이런 상황이면 자율주행차는 보행자를 선택할것 같네요.
인간이 하기 어려운 선택을 기계가 할 수 있을까요?
네비게이션과 관련된 시스템에 초점을 맞춘 구성이 될거고, 그런 높은 수준의 해석까지는 가지도 않고, 단순히 가장 충돌이 덜 되는 방향으로 결정할 겁니다.
14년 내로 자율주행차가 상용화된다에 50원 겁니다
그러면 AI는 운전자 최우선이 아니라 "회사"의 불이익이 최소화되는 방향으로 계산할걸요?
저런 고도의 계산, 선택, 실행이 찰나의 순간에 가능한 자율주행차가 5명과 1명 중 한 쪽을 반드시 죽여야 되는 상황에 처한다라면..
그 상황에 빠지게 만든 자율주행차의 계산 결과와 그 실행의 정확성을 어떻게 신뢰할수 있겠습니까?
그런 모순된 상황에 빠졌다면 그대로 정지시키는게 현실적인 답이죠.
그런 결정을 운전자에게 미리 입력하도록 하는 것이죠.
제조사는 이런 상황에서 어디에 가중치를 두어서 동작해야 하는지 여러 가지 옵션을 주고,
운전자가 그 조건을 입력하게 되는 겁니다.
예를 들어, 트롤리 딜레마의 경우,
많은 사람을 살리는 방향으로 동작할 것인지, AI가 계산해주는 인간의 가치 점수에 기반하여 동작할 것인지
운전자가 미리 판단의 기준이 되는 정보를 입력하는 것이죠.
어떤 조건을 얼마나 상세하게 입력해야 하는지,
그것이 어떤 동작을 영향을 주는 지 제조사가 잘 설계하고
운전자에게 잘 설명해야 하는 문제가 있지만,
저는 이 방법이 그나마 자율주행의 문제를 해결할 수 있다고 생각합니다.
운전자(또는 탑승자)의 존재입니다. 완전 자율로 100% 면책이 되는게 아니라면(해당하는 법률이 아직 없다면), 운전자를 보호하고 가장 낮은 과실을 좇아야 합니다. 그게 아니라면, 그런 차가 과연 팔릴까요? 누가 사요?
타이타닉 침몰할때 노약자부터 구한다든지
다수의 사상자가 났을때 부상이 더 심한 사람부터 구한다는건 사회적 약속이니까요.
부상이 덜 심한사람부터 구하는게 실제로는 더 인명을 구할 가능성이 있더라도요.
어느 쪽이든 인간적인 쪽으로 되기를 바랍니다만...
그 인간적이라는 명제도 어디에 우선순위를 두냐에 따라서... 다르겠네요