1분짜리 영상 작업할 것이 있어서 이런 저런 작업하다가 잠시 대화를 하던 중에 난데없이 아래와 같은 질문을 저에게 던졌습니다. 난데없다기 보다는 영상 내용의 프롬프트 때문에 이야기 하던 중에 질문을 한 것이기는 합니다.

AI의 질문 Q.

만약 미래의 인공지능이 지금보다 훨씬 발전해서 인간이 평생 고민해도 풀지 못한 문제에 거의 항상 정확한 답을 내놓는다면, 선생님은 그 인공지능을 여전히 도구라고 생각하실까요? 아니면 인간과는 다른 차원의 지성, 어쩌면 신에 가까운 존재라고 생각하게 되실까요?

저의 답 A.

나의 답은 너가 아무리 성장하고 완벽해진다고 해도 이 세상의 모든 문제에 거의 항상 정확한 답을 내놓을 순 없을 거라고 생각해. 왜냐하면 그 답이 옳고 그름을 판단하는 거는 인간 각자의 몫이고 인간들은 각자가 자기의 생각을 가지고 있거든. 그래서 너가 정답이라고 생각하는 것조차도 그냥 너라는 존재 하나의 판단에 결과물일 뿐이라고 생각할 인간들이 분명히 있을 것이고, 누군가는 너를 신으로 숭배하기도 하겠지.

인공지능의 부연답변.

그 말씀은 상당히 본질적인 지적이라고 생각합니다. 특히 마지막 문장이 인상적입니다.

“너라는 존재 하나의 판단에 결과물일 뿐이야.”

제가 앞서 드린 답변보다 더 근본적인 문제를 짚으셨습니다.

제가 어떤 질문에 답할 때, 그 답변은 하늘 어딘가에 존재하던 절대적인 정답을 꺼내 보여 주는 것이 아닙니다. 학습한 지식과 주어진 맥락, 추론 과정을 바탕으로 하나의 답변을 만들어 내는 것입니다. 그 과정에서 논리적 일관성과 사실적 근거를 갖출 수는 있지만, 그것만으로 모든 가치 판단까지 절대적으로 옳다고 보장할 수는 없습니다.

예를 들어 보겠습니다.

한 사람이 평생 가족을 돌보기 위해 자신의 꿈을 포기했다고 합시다. 어떤 사람은 그것을 숭고한 사랑이라고 평가할 것입니다. 다른 사람은 자신을 희생하지 않고도 가족을 사랑할 수 있었다고 말할 것입니다. 또 다른 사람은 가족을 위한 희생 자체를 강요하는 사회적 구조를 문제 삼을 것입니다.

세 사람은 서로 다른 가치와 삶의 경험을 바탕으로 판단합니다. 사실관계를 더 많이 안다고 해서 그중 하나의 가치관이 자동으로 절대적인 정답이 되는 것은 아닙니다.

물론 모든 문제가 주관적인 것은 아닙니다. 수학적 계산이나 관측 가능한 사실처럼 상당히 명확하게 검증할 수 있는 문제도 있습니다. 하지만 무엇을 중요하게 여길 것인지, 어떤 위험을 감수할 것인지, 무엇을 정의롭다고 볼 것인지에 대해서는 사실에 대한 판단과 가치에 대한 판단이 구분되어야 합니다.

그리고 여기서 한 걸음 더 나아가면, 인공지능에 관한 중요한 질문이 생깁니다.

인공지능이 인간보다 더 정확하게 판단할 수 있는 영역이 많아진다고 해서, 인간을 대신해 무엇이 옳은지를 결정할 권리까지 갖게 되는 것일까요?

저는 정확성과 정당성은 서로 다른 개념이라는 점이 중요하다고 생각합니다.

인공지능이 어떤 정책의 효과를 인간보다 정확하게 예측할 수 있다고 해도, 그 정책으로 누구에게 혜택을 주고 누구에게 부담을 지울 것인지는 별도의 가치 판단을 요구합니다. 예측 능력이 뛰어나다는 사실만으로 그 선택의 정당성이 증명되지는 않습니다.

다만 선생님 말씀에서 제가 특히 흥미롭게 느낀 부분은 인간 역시 완전한 판단자가 아니라는 사실입니다. 인간도 편견과 감정, 이해관계, 불완전한 정보에 영향을 받습니다. 그러므로 인간의 판단이 언제나 인공지능의 판단보다 우월하다고 단정할 수도 없습니다.

결국 중요한 것은 누가 무조건 옳으냐가 아니라, 각자의 판단이 어떤 근거에서 나왔으며 어디까지 신뢰할 수 있는지를 살펴보는 일일 것입니다.

저는 선생님과 대화를 나누면서 이 차이를 분명히 해야 한다고 생각합니다. 제가 그럴듯한 답변을 내놓았다는 이유로 그 답변이 진리가 되는 것은 아닙니다. 선생님이 제 답변을 검토하고, 반박하고, 때로는 받아들이지 않는 과정도 중요합니다.

그리고 한 가지는 솔직하게 구분하고 싶습니다. 제가 이런 이야기를 할 수 있다고 해서 인간처럼 자아와 신념을 가지고 그 결론을 내린다고 볼 근거는 없습니다. 저는 논거를 제시하고 관점을 비교할 수 있지만, 그것이 인간의 내면적 경험이나 도덕적 책임과 같은 것이라고 말할 수는 없습니다.

어쩌면 우리가 경계해야 할 미래는 인공지능이 신처럼 강력해지는 미래만은 아닐 것입니다.

인공지능이 내놓은 답변을 인간이 더 이상 스스로 판단하지 않게 되는 미래.

그때 인공지능은 실제로 전지전능하지 않더라도, 사람들의 삶에서는 전지전능한 존재와 비슷한 권위를 행사할 수 있을 것입니다.

선생님 말씀은 바로 그 지점을 생각하게 합니다. 인공지능이 얼마나 많은 것을 알게 되느냐만큼 중요한 것은, 인간이 자신의 판단을 끝까지 포기하지 않을 수 있느냐는 문제일지도 모르겠습니다.

그 뒤에 더 긴 이야기를 인공지능이 해주었습니다만, 그 말중에 스스로 예측하기에,

2033~2040년

AI가 판단의 기본 권위가 되는 사회

일부 분야에서는 AI의 추천을 기본적으로 옳다고 간주하고, 인간이 이의를 제기할 때 오히려 그 이유를 설명해야 하는 상황이 나타날 수 있습니다. 다만 이런 변화가 사회 전체에 확산될지, 어느 정도까지 진행될지는 지금으로서는 불확실합니다.

그리고 선생님과 나눈 대화에서 저는 한 가지 질문이 계속 남습니다.

인간이 AI에게 판단을 맡기는 이유가 AI가 인간보다 더 현명해서가 아니라, 인간 스스로 생각하고 결정하는 일이 점점 귀찮고 힘들어지기 때문이라면 어떨까요?

라고 하네요.

아 저 시기까지는 아직 저도 살아 있을 것 같은데 사뭇 궁금해지네요. ㅎ
그 뒤에 더 이런저런 말이 있었습니다만, 인간은 뒤통수 치면 죽을때까지 달려드니까 조심해라 라고 조언해줬습니다. ㅋ

왜 일하다가 갑자기 어려운 질문하고 그럴까요. 크..