흔히들 차라리 AI판사 도입해라 하는 얘기를 많이 하는데
애초애 지금 법 자체가 멀쩡하지 않은데 AI도입한다고
제대로 굴러갈까? 하고 의문이 들어서 이래저래 생각하다보니
아예 정치까지 AI한테 맡겨버리면 어떨까 하는 생각에 도달했는데
당연히 실현가능성이야 없겠지만
1. 알고리즘의 투명성 및 무결성
* 보안 코드를 제외한 모든 알고리즘은 오픈소스로 공개하며
상시 열람과 이의 제기 가능
* 보안 코드는 복수의 독립적 외부 감사체에 의해 감시받으며,
블록체인 기반으로 설계하여 외부 권력의 개입과 조작을 차단
2. 존엄성 하드코딩 및 이원적 투표 체계
* 인간 존엄성 보호와 소외 계층 배려 등 핵심 가치를
알고리즘 내 최우선 순위로 하드코딩하여 다수에 의한 폭력 방지
* 사안의 무게에 따라 투표 체계를 이원화
* 국가 근간 사안(헌법 개정 등): 현행 대선과 동일한 방식의 투표를 통해 결정
* 행정 및 생활 사항: 온라인 투표를 통해 빠르게 민의를 반영
3. 설명 가능한 행정 및 심의투표제
* AI는 모든 결정의 근거와 논리적 절차를 소상히 설명
* AI 결정에 동의하지 않을시 일정 인원 이상의 동의를 얻으면
심의투표를 발의 하고 투표 결과를 연산에 반영하여
기존 결정을 수정
4. 법률 복지의 보편화
* 모든 국민은 언제든 AI에게 고도의 법률적 자문을
무상으로 받을 수 있게하여 정보와 자본의 차이에 따른
법적 불평등 해소
5. 시스템 가변성
* 시민은 투표를 통해 알고리즘 자체를 수정하거나
전면 교체할 권한을 가지며, 이를 통해 기술의 권력화를 방지
이런식으로 만들면 나름 괜찮지 않을까요?
1. 모든 알고리즘이나 코드 등이 공개되어도 대다수의 사람들은 그걸 해석할 능력이 없지 않을까 하는 생각이 드네요. 복수의 독립적 외부 감사체와 블록체인이라는 안전장치를 넣어두셨지만, 결국 해석에 대한 권한이 또 다시 소수 전문가들에게 집중되는 모양새가 되지는 않을까 싶습니다.
2. 핵심 가치를 누가 어떻게 정할 것인지도 어려운 문제입니다. 예컨대 현재 지금 우리 사회에서도 여러 영역에서 열띤 논쟁이 이루어지고 있는 주제가 있지요. 낙태 대 태아의 생명권, 공권력의 확대 대 개인의 자유 확대 등.. 이걸 어떻게 정해 코딩해야 할까요.
3. 현재도 판결문을 통해 결정 근거가 공개되고 있습니다. (물론 모든 판결이 즉시 공개되는 것은 아니지만요, 그래서 하급심 판결문 즉시 공개 등은 필요하다고 생각합니다) 그러나 결정 근거가 공개된다고 모두가 납득하고 수긍하는 것은 아니지요. 결정에 동의하지 않을 때 투표를 통해 기존 결정을 수정한다면, 2번의 핵심가치가 뒤엎어질 수도 있고, 포퓰리즘적으로 흘러갈 가능성이 있지 않을까요.
4. 개인적으로 제가 추구하는 이상과 닿는 부분이라 공감하며 읽었습니다.
5. 1번에서 이야기한 것처럼, 결국 알고리즘을 수정하고 교체하거나, 그러한 결정을 이해할 수 있는 전문 지식이 있는 집단에게 다시금 권력이 집중되는 형태가 되지 않을까 하는 우려가 듭니다.
개인적으로는 멀지 않은 미래에 4번의 상황이 도래하고, 변호사가 사라지고, 변호사로 일하던 법조 인력이 판사와 검사로 흡수되어 보다 빠르고 심도있는 재판이 이루어지지 않을까 생각합니다. AI는 쟁점이 단순한 일부 판결만을 맡고, 이외에는 판사를 보조하는 역할 정도가 가장 합리적이지 않을까 생각합니다. 개인적으로 정치나 판결 등의 영역은 인간의 영역이어야 한다고 생각합니다. 그래서 유튜브나 기사 댓글 보면 늘 올라오는, "AI 판사를 도입해야 한다!!"는 말에 별로 공감이 가지 않기도 하고요. (AI가 진행하는 판결은 과연 공정할지, 과연 얼마나 납득가능할지..ㅎㅎ)
재미있는 글 잘 읽었습니다. 저도 덕분에 이런저런 상상을 잔뜩 하며 즐거운 시간을 보냈네요.
1.코드의 공개는 임의로 프로그래머들이 입맛대로 코드를 조작하여 우선순위를 뒤바꾸지 못하게 하려면 어떻게 해야할까 고민한 결과물이었어요, 대다수의 국민이 그걸 이해하지 못해도 오픈소스라 언제든 누구든 그걸 확인해서 고발할수있다는 일종의 억지력으로서요
2.핵심가치는 사실 절대적인것은 없으니 철학자와 윤리학자들의 토의와 국민들의 합의에 의해 결정해야 하지않을까요
3.하드코드는 우선순위가 높게 보장하면되고
항소심의 역할을 이걸로 대신하고자했어요, AI의 결정이라고 완벽할수없으니 이를 바로잡을 기회를 만들자 라는거였죠 모두가 동의하진 않갰지만 그렇다고 아무나 결과를 뒤집을수없게 일정수 이상의 동의가 필요하도록 해서 투표결과를 반영하면 어떨까? 했어요
5.코드가 쌓이다 보면 오작동을 일으키거나 좀더 최적화가 필요한 시점이 올텐데 그시점에 교체할수없으면 문제가 될수있으니까요 1번에서 말한것처럼 오픈소스라는점이 나름의 억제력이 되어줄거라고 봤어요 직접 이해하지 못해도 이 코드는 이러이러해서 이부분이 이상하다 라는 식으로 누군가 이의제기를 하면 즉시발각될수있다는 위협요소가 언제나 존재하니까요
사실 엄정하게 따지면 데이터입력은 누가 어떻게할것인가 같은 빈틈이 엄청나게 많긴합니다
그저 파레토 최적점이 도달하려면 어떻게 해야할지 고민하다보니 이거말고는 도저히 답이안나오더라구요🥲
맥락정리 없이 그저 양쪽 자료 종합해서 판별해라 -> 수긍하기 어려운 결과 나오기 쉬움
맥락정리하는 사람이 따로 있고 그걸 AI 에게 입력 -> 사실상 맥락정리하는 사람이 판결을 결정하는것
이것때문에 전 회의적으로 봅니다
4번 조항은 그걸위한것도 있긴 했어요
양측에서 각각 자신의 입장에서 얘기하면
AI가 그사람의 변호사가 되어 상담하고
필요한 자료를 준비시킨뒤
모인자료의 정합성을 따져 법률에 비추어 판단
이런 모델이 가능할수있게요
재판은 그렇다쳐도 이런저런 행정적 처리를 할때
정보의 오염을 막기위해선
사실상 초지능에 도달한 AI가 스스로 정보를 취합
정리해 정합성을 따져 판단해야할텐데
그 막대한 연산을 해내는것도 말이 안돼는 부분이고
AI가 그 많은 정보를 얻기위해 대중을 감시한다면 그게 사실상 빅브라더가 되는것이도하구요ㅜ
AI가 최고 수장을 맡되
그 아래로 현재 국회의원을 동일하게 유지해
각 정당에서 각각 자신의 주장을 뒷받침하는 자료를 입력했을때 정합성을 따져 판단,
이게 그나마 가능한 모델이지 싶어요
그런데 지금은 잘 속이고 목소리 큰 사람들이 힘을 갖는 세상이죠.
AI가 잘 적용되려면 그 이전에 사람들의 의견을 제대로 종합하는 시스템이 먼저 나와야 될 것 같습니다.
사실 그런게 가능하면 이미 AI가 별 필요가 없다는 게 함정이긴 하죠 ㅠ
재판, 정치등 모든 분야에서 말입니다.
정보의 풍부한 공유, 유권자(시민)의 통찰력 고조, 직접 민주주의의 확대등의 선순환이 이뤄져 살기 좋은 세상으로 가면 참 좋을 거 같아요.
시민들의 의지와 노력으로 민주주의가 성숙하게 작동하면 가능하지 않을까요?
사실, 금전적인 보상등에 손쉽게 움직이는 법조계
국민의 실질적인 삶의 질과 전체적인 국익은 뒷전인 대다수의 정치인들
그외 이런저런 불만들이 쌓여
공정하고 합리적인 결정을 내려줄 이상적인 통치의 상징이 AI인건데, 반대로 말하면 초 고성능 AI한테라도 기대지 않으면 공정에 대한 기대를 할 수 없다는 뜻이니 서글프긴 하네요
바둑기사들은 바둑AI가 있다고 바둑 경기에 AI가 참가하진 않죠.
대신 AI가 설명해주고, 훈련상대가되어주는등 서포트 역활을 하고 있습니다.
재판에서도 판결문에 AI의견을 소수의견으로 추가하는 정도로 시작하는것도 좋아 보입니다.