근본적으로 사람이 사람을 심판하기에 생기는 문제입니다.
사람을 심판하는 건 고대에는 신의 영역이었습니다. 하지만 신은 물리세계에 없기에 “신의 목소리를 듣는” 사제들이 사람을 심판해 왔습니다. 그래서 사제계급이 막대한 권력을 가졌던 것입니다.
법치국가에서는 법이 신이 되어 사람을 심판합니다. 하지만 역시 법은 물리적인 실체가 있는 존재가 아닙니다. 그래서 법을 해석하는 전문가 집단이 사람을 심판합니다. 이들은 법이라는 신의 사제들입니다.
그리고 사람인 이상 고대의 사제와 마찬가지로 감정이 개입합니다. 욕심, 두려움, 분노, 나태함. 같은 법조문을 두고도 누가 해석하느냐에 따라 결과가 달라집니다.
검찰개혁, 사법개혁이 끝없이 반복되는 이유가 여기에 있습니다. 사제를 바꿔봤자, 새 사제도 사람이니까요.
AI는 다릅니다. 감정이 없고, 피로하지 않고, 매수되지 않습니다. 동일한 사실관계에 동일한 법리를 적용하면 동일한 결론을 냅니다. 그리고 법이야말로 AI에게 가장 잘 맞는 영역입니다. 법과 원칙이라는 명확한 틀 안에서 판단하는 일이니까요.
물론 당장 AI 판사를 세우자는 얘기가 아닙니다. 3심제를 유지하고, 사람이 검증하며, 서서히 가면 됩니다.
하지만 방향은 분명합니다. 사람이 사람을 심판하는 구조를 유지하는 한, 개혁은 영원히 제자리입니다.
신의 자리에 감정이 없고, 진짜로 물리적 실체가 없는 존재를 앉히는 것. 그것이 사법개혁의 결말이어야 합니다.
공정은 정의를 위한 수단이지 목적이 될 수 없습니다.
하나의 부조리함도 없이 사는게 아니라 모두가 편안하고 행복하게 사는게 목적이어야 한다고 봅니다. AI에게 모든 판단을 맡기면 우리는 수시로 AI판사에게 의존해야하고, 그 결정에 따라갈 겁니다. 이건 세포로 만들어진 로봇과 다를 바 없지 않을까요? 이러면 행복할지 잘 모르겠습니다. 한치의 에누리도 없이 너무 각박할 것 같아요.
솔로몬 왕이 재판하면서 상황을 깊게 보고 '아기를 둘로 나눠 가지라’는 판결을 내린 재판같은 것을 AI가 할 수 있을까요?
그 에누리는 선출직 국회에서 할 일이라고 봅니다
시스템을 만드는건 사람이지요
요즘 표현으로는 하네스를 사람이 하는거지요
하지만 현장에서는 원칙을 적용해야합니다 1번의 감동적인 판결의 위해 100번의 전관예우가 존재하는게 지금 현실입니다
인간에게, 같은 인간을 판결하고 처벌하게 하는 판단을 맡겼을때 행복한가요?
인간은 근본적으로 불안정하고, 부조리하고 비합리적이고 불공정한 판단을 자주 합니다.
인간에 대한 판단을 불안전한 인간에게 맡기는게 아니라.
인간의 지능을 넘어서는, 가장 합리적이고 공정하고 생각되는 존재에게 맡기게 된다.
처음에는 거부감도 있겠지만. 그게 가장 공정하다는 인식이 금방 퍼지게 될겁니다.
의사같은 경우와 마찬가지일겁니다.. 오진을 하고 실수를 하는 불안전한 인간에게 나의 몸을
맡기는것보다 오진율이 극히 낮은 AI로봇에게 나를 맡기는게 더 안심할수 있다는 인식은 금방 퍼지게 될꺼고요.
자율주행운전같은 것도 마찬가지일꺼고.
반대도 있겠지만 결국 그런 인식이 퍼지면 그쪽으로 갈수 밖에 없을겁니다. 시간의 문제일뿐.
그리고 통치자가 AI에 편향된 지식을 주입할 가능성도 있습니다. AI는 그럴 때 양심선언 같은 것은 하지 않겠죠.
사회는 서로 잘 살자고 모여있는 것이고, 이러다 보면 충돌이 있을 수 밖에 없습니다 분쟁의 조정은 서로 합의하에
결정하는 것이지, 원칙을 그대로 고수하면 탄성이 떨어질 수 있습니다. 이러면 각박해진다는 것입니다.
현 사법시스템의 개선이 필요하다, 신뢰를 못하겠다는 점엔 동의합니다. 그런데, ai가 하면 다 괜찮을거라고 생각하진 않습니다.
닫힌 방에 사람이 있는데, 산소 부족을 해결하라고 했더니 사람을 죽이면 된다는 답을 내 놓는게 현재의 ai입니다. 이런 점을 두려워해야합니다. 미래의 ai는 사람의 감성적 판단과 유사해지는 수준에 이를 수도 있지만, 인간의 본능이 수백만년의 진화의 결과물이고, 뇌가 어떻게 인식하고 기억하는지 아직도 모르는 상태입니다. AGI ASI를 이야기하지만 인간의 본능까지 가능할지는 보고 판단할 일이라고 봅니다. 적어도 뇌기능을 온전히 이해하는 수준이 되어야할텐데, 시간이 더 필요해 보입니다.
다시 말씀드리지만,
공정은 수단이지 목적이 아닙니다. 절차가 공정하다고 결과가 정의로운건 아닐 수 있습니다.
민주주의는 다수의 판단과 그에 따른 결과를 다수가 책임지는게 아닌가 싶습니다. 이게 사람들이 현재 살아가는 방식인데, 절대적 존재가 나타나서 판단을 하면, 뭔가 문제가 생기지 않을까 싶습니다. 일정 부분의 오류와 이상함은 전체의 안정성을 위한 버퍼 같을 수도 있다고 봅니다. 최소한 생명체가 관여하는 일에 있어서는…
결과가 공정안할수도 있지요. 인간의 판단또한 그렇고 AI의 판단도 마찬가지일겁니다. 어느쪽의 판단이 공정할지는 결국 판단주체에 대한 신뢰를 기반으로 해서 그 판단이 어떻게 수용되어지느냐에 따르긴 할겁니다.
하지만 최소한 절차가 더 공정해야 한다는 것도 당연하고요.
AI가 여러분야에서 영향력이 커짐에 따라 AI에 대한 신뢰는 점점 높아질겁니다. 그건 당연한거에요. 인간은 기본적으로 불안정하고 불안전한 존재인데. AI는 인간이 할수있는것보다 수십만배.수백만배이상 훨씬 더 많은 데이터를 더 빠른 속도로 처리하고 판단을 내리니까요.
지금 당장은 할루시네이션도 있고 부족한 면이 많은건 사실이지만 점점더 개선되리라는것도 분명합니다.
AI의 영향력이 커지면서 AI를 종교적으로 믿는 종교가 나타나고 광신도들조차 나타날게 뻔합니다.
제가 얘기하는건 그게 무조건 옳다거나 AI 유토피아의 세상을 가정했다거나,
무조건 AI가 인간의 판단을 대체해야한다고 AI에게 당장 맡기자고 주장하는게 아닙니다.
그냥. 그렇게 될꺼고, 될수 밖에 없을꺼라는 겁니다.
인간은 불안전한 존재이고 같은 인간에게 자신의 판단을 맡긴다는것에 대해서 불만을 가지게 마련입니다.
AI의 능력이 거대해지고, 인간보다 훨씬 뛰어나다는 신뢰가 확산되는 순간 그렇게 될수 밖에 없을꺼라는겁니다.
오진을 하고 실수를 하는 인간의사에게 내 몸을 맡기는것.
오진율이 극히 낮은 AI 명의에게 내몸을 맡기는 것. 결국 궁극적으로는 누구를 선택하게 될까요?
당장 리브라님의 가족이 아프다면 누구에게 맡기게 될까요?
판사도 마찬가지입니다. 수많은 재판기록과 방대한 법률에 기초해서 판단을 내리는것..
결국 데이터에 기초한 겁니다. 그건 AI가 가장 잘하는 거지요.
사람들은 점점 누구에게 이 판단을 맡기는게 옳다고 여기게 될까요?
AI를 보조적 역할로 사용하자. 물론 좋지요. 그게 가장 이상적인, 도구로서의 AI사용법일겁니다.
하지만 우리가 그렇게 사용하고 싶어도.
결국 AI는 보조적 역할에서 주체적인 역할로 변화해 갈수 밖에 없습니다.
인간을 대체하는게 AI의 본질이니까요.
AI는 보조적인 지능이 아니라 단어 그대로 인공지능, 인간을 본뜬 지능입니다.
AI의 판단에 수용할것인가? AI에게 내몸을 맡길것인가? AI에게 운전을 맡길것인가?
결국 키워드는 '신뢰'이고. AI가 신뢰할수 있는 존재냐 라는것인데.
인간은 인간보다 더 뛰어난 존재에게 그걸 맡기는게 더 낫다는걸 대부분이 결국 깨닫게 될겁니다.
당장 나의 안전과 목숨을 담보하는 자율주행은 대중화되고 일반화 될꺼라고 생각하면서,
의사나 판사는 안된다라고 생각하는 근거는 무엇일까요.
말씀하신 ‘일정부분의 오류와 이상함’으로,한 인간은 교통사고로 죽어가고, 억울하게 감옥에 갇히고, 오진으로 신체적인 피해를 봅니다.
인간은 절대적인 존재를 바랄수 밖에 없고 AI가 그 존재라는 걸 대부분이 깨닫게 되는순간 변화할꺼라는 거죠.
디스토피아인지 유토피아인지는 알수없지만.
제 생각엔 인류가 멸망하기 직전까지 남아있을 확률이 가장 높은 직업이 법관인 것 같습니다.
어려운 법을 일반인도 알기 쉽게 해석하고
법조인들의 논리적 오류를 쉽고 빠르게 찾아내서
뭇 사람들이 검증할 수 있게 법률의 문턱을 낮춰주기 때문이죠.
지금까지는 법조인들이 법률을 독점하다시피 했으나
AI가 법률의 민주화를 가져올 거라 생각합니다.
AI가 공정할것이라는 기대도 개발자 관리자 인간의 개입 혹은 AI의 자의적 판단에 의한 환각효과도 있을것 같아요.