AI시대, 생각을 쌓는 기술 - AI에게 판단까지 맡겨도 괜찮을까?

<들어가면서>

안녕하세요.
최근 글을 쓰다보면 항상 주장이라는 것은 반대의견이 충분히 있을 수 있다는 생각이 듭니다.
절대적인 정답이 있는 이야기는 아니니 가볍게 읽어주시면 감사하겠습니다.

---

☐ 요즘 AI를 쓰다 보면 묘하게 쎄한 순간이 있습니다.

• 처음에는 자료를 찾고 정리하는 데만 썼는데 어느새 이 방향이 맞을까? 이 중에 뭘 고를까? 같은 판단까지 AI에게 묻고 있었습니다.
• 대답을 듣고 나면 그럴듯해서 그대로 따르게 되고, 그게 반복되면서 판단의 영역이 조금씩 넘어가는 느낌이 들었습니다.

☐ AI가 일을 빠르게 만들어 주는 건 분명합니다.

• 저도 매일 쓰고 있고 쓰지 말자고 말할 생각은 없습니다.
• 다만 빨라진 만큼 무언가가 빠져나가고 있다는 느낌은 점점 선명해졌습니다.
• 이번 글은 그게 무엇인지에 대한 이야기입니다.

생각을 아끼려는 건 본성입니다.

☐ 뇌는 체중의 2% 정도지만 몸 전체 에너지의 20% 안팎을 씁니다.

• 그렇다고 뇌가 비효율적인 기관이라는 뜻은 아닙니다.
• 전구 하나 수준인 약 20W로 지금의 인류를 만들어 냈으니 오히려 놀랍도록 효율적인 기관에 가깝습니다.
• 그런데도 사람은 가능하면 깊이 생각하지 않으려 합니다.
• 심리학에서는 이를 ‘인지적 구두쇠’라고 부릅니다.
• 빠르고 쉬운 판단으로 충분하다면 굳이 머리를 쓰지 않으려는 경향입니다.
• 이 경향 자체는 문제가 아닙니다.
• 모든 걸 깊이 생각했다면 하루도 버티지 못했을 겁니다.
• 문제는 AI가 이 본성에 딱 맞는 도구라는 점입니다.
• 생각을 덜 하고 싶은 마음과 생각을 대신해 주는 도구가 만난 셈입니다.

쓰지 않는 길은 흐려집니다.

☐ 뇌는 쓰는 방향으로 바뀝니다.

• 자주 쓰는 회로는 강해지고 쓰지 않는 회로는 약해집니다.
• 이게 실제로 어떻게 나타나는지 보여준 연구가 있습니다.
  -캐나다 연구진이 운전자 50명의 평생 GPS 사용 경험을 조사하고 가상 내비게이션 과제로 공간 기억을 측정했더니 GPS를 많이 써온 사람일수록 스스로 길을 찾을 때 공간 기억이 떨어졌습니다.
• 표본은 작았지만 다시 측정했을 때 그사이 GPS를 더 많이 쓴 사람일수록 해마에 의존하는 공간 기억이 더 가파르게 떨어졌습니다.
• 길눈이 원래 어두워서 GPS를 많이 쓴 것도 아니었습니다.

☐ AI에 대해서도 비슷한 신호가 나오고 있습니다.

• Microsoft 리서치와 카네기멜론대 연구진이 생성형 AI를 매주 쓰는 지식 노동자 319명을 조사했는데 AI를 신뢰할수록 결과물에 대한 비판적 사고를 덜 했고, 자기 능력을 신뢰할수록 더 많이 검증하고 다듬었습니다.
• 이 연구는 응답자의 자기 보고에 기반한 것이라 “AI가 사고력을 떨어뜨린다”고 단정할 수는 없습니다.
• 다만 방향은 분명합니다.
• 생각을 맡기는 순간, 그 생각을 점검하는 일까지 함께 맡기기 쉽습니다.

그럴듯함이라는 함정

☐ AI의 대답에는 독특한 특징이 있습니다.

• 맞든 틀리든 그럴듯하다는 겁니다.
• 틀린 답이 틀려 보인다면 아무 문제가 없습니다.
• 문제는 맞는 답과 틀린 답이 같은 얼굴을 하고 나온다는 점입니다.
• 둘을 구별하려면 결국 판단력이 필요합니다.
• 앞서 소개한 연구에서도 지식 노동자들은 AI의 답을 점검하고 개선할 역량이 부족할 때 비판적 사고를 아예 하지 않는 경우가 많았습니다.
• 여기서 역설이 생깁니다.
• AI를 잘 쓰려면 판단력이 필요한데 그 판단력은 AI에게 맡기지 않고 직접 판단해 본 경험에서만 나옵니다.
• 제가 느낀 쎄함도 아마 여기서 왔을 겁니다.
• 그럴듯한 대답을 그대로 따르면서, 그게 맞는지 확인할 힘이 내 안에 남아 있는지 확신이 서지 않았던 겁니다.

결론보다 과정이 남습니다

☐ 세상은 복잡계입니다.

• 하나의 정답이 있는 문제보다, 여러 요인이 얽혀서 어떤 선택이든 일장일단이 있는 문제가 훨씬 많습니다.
• 이런 문제에서 중요한 건 결론 자체보다 결론에 이르는 과정입니다.
• 무엇을 고려했고, 무엇을 버렸고, 어디서 망설였는지가 다음 판단의 재료가 됩니다.

☐ 철학자 마이클 폴라니는 우리가 말로 할 수 있는 것보다 더 많이 안다고 했습니다.

• 이른바 암묵지입니다.
• AI에게 질문할 때 우리는 상황을 모두 설명하지 못합니다.
• 상대방의 미묘한 표정, 현장의 분위기, 예전에 비슷한 선택을 했다가 겪었던 일의 감촉 같은 건 프롬프트에 다 담기지 않습니다.
• 이런 뉘앙스는 내가 직접 판단할 때만 작동하고 그 과정에서만 쌓입니다.
• 쌓인 것은 언젠가 직관이 됩니다. 다만 저절로 되지는 않습니다.
• 대니얼 커너먼과 게리 클라인은 직관이 믿을 만해지려면 판단의 결과를 반복해서 확인하는 피드백이 있어야 한다고 봤습니다.
• 판단을 AI에게 넘기면 바로 이 고리가 끊깁니다.
• 결과가 좋든 나쁘든, 그 판단의 내 추론이 없었으니 무엇이 맞았고 무엇이 틀렸는지 배울 수가 없습니다.
• 그러니 직관을 믿자는 말이 아닙니다.
• 복잡한 세상에서는 직관도 자주 틀립니다.
• 다만 틀린 직관은 고칠 수 있지만 없는 직관은 고칠 수조차 없습니다.

모든 비효율이 깊이를 만들지는 않습니다

☐ 여기서 조심해야 할 지점이 있습니다.

• 고민하는 시간은 비효율적이지만 생각을 깊게 만든다는 말은 반만 맞습니다.
• 같은 걱정을 몇 시간째 반복하는 것도 비효율이지만, 생각이 깊어지지는 않습니다.
• 엉뚱한 자료를 뒤지며 헤매는 시간도 마찬가지입니다.
• 학습 연구자 로버트 비요크는 이를 ‘바람직한 어려움’이라는 개념으로 구분했습니다.
• 배우는 과정을 어렵게 만드는 것 중 일부만이 실력으로 남는다는 겁니다.
• 대표적인 게 스스로 떠올려 보는 것, 직접 만들어 보는 것입니다.
• 답을 읽는 것보다 답을 직접 만들어 낼 때 훨씬 오래 남습니다.
• 그러니 필요한 건 비효율 그 자체가 아닙니다.
• 내 머리로 무언가를 떠올리고, 엮고, 만들어 내야 하는 구간입니다.
• AI가 없애는 건 바로 이 구간입니다.
• 답을 찾는 시간이 줄어드는 게 아니라 답을 만드는 과정이 통째로 건너뛰어집니다.

생각의 깊이란 무엇일까

☐ 그렇다면 이 구간이 만들어내는 ‘생각의 깊이’는 정확히 무엇일까요.

☐ 저는 깊이를 정보의 양이 아니라 연결의 양이라고 생각합니다.

• 하나의 생각이 내가 아는 다른 것들과 얼마나 촘촘히 이어져 있느냐입니다.

• 이건 몇 가지 질문으로 확인해 볼 수 있습니다.

• ‘왜?’를 몇 가지 몇 단계 따라 내려갈 수 있는가?

• 그 생각이 언제 틀리는지 어떤 조건에서 무너지는지 아는가?

• 전혀 다른 분야의 문제에 가져다 쓸 수 있는가?

• 답을 보지 않고 스스로 다시 만들어 낼 수 있는가?

☐ 마지막 질문이 가장 중요합니다.

• 심리학에는 ‘설명 깊이의 착각’이라는 현상이 있습니다.
• 사람들은 지퍼나 변기가 어떻게 작동하는지 안다고 자신하지만, 막상 단계별로 설명해 보라고 하면 대부분 막힙니다.
• 익숙함을 이해로 착각하는 겁니다.

☐ AI가 준 답을 읽을 때 우리가 느끼는 것도 이 착각에 가깝습니다.

• 읽는 동안에는 다 이해한 것 같지만 창을 닫고 다시 설명해 보라고 하면 말문이 막힙니다.
• 연결은 남이 만들어 놓은 걸 구경할 때가 아니라 내가 직접 엮을 때 생기기 때문입니다.

무엇을 맡기고 무엇을 남길까

☐ 계산기가 나왔다고 수학적 사고가 사라지지 않았습니다.

• 계산은 이해의 핵심이 아니었기 때문입니다.
• AI도 마찬가지입니다.
• 자료를 찾고, 정리하고, 초안의 틀을 잡는 일은 맡겨도 됩니다.
• 하지만 “그래서 나는 어떻게 생각하는가”를 만드는 과정까지 넘기면 결과물은 남아도 생각은 남지 않습니다.
• 이전에 교양 유튜브를 많이 봐도 지식으로 잘 쌓이지 않는 이유에서 다뤘던 것도 결국 같은 이야기였습니다.
• 남이 만든 연결은 내 안에 쌓이지 않습니다.

☐ 솔직히 말하면, 저도 이 선을 완벽하게 지키고 있지 못합니다.

• 편한 쪽으로 기우는 게 본성이고, AI는 그 본성에 너무 잘 맞는 도구입니다.
• 그래서 제가 할 수 있는 현실적인 방법은 거창한 원칙을 세우는 게 아니라 판단을 넘기는 순간 드는 쎄함을 잃지 않는 것이라고 생각합니다.

☐ 다만 감각만 믿기는 어렵습니다.

• 쎄함도 반복되면 무뎌지기 때문입니다.
• GPS를 많이 쓴 사람들이 정작 자기 길눈이 나빠졌다고 느끼지 않았던 것처럼, 외주가 익숙해지면 외주하고 있다는 감각부터 사라집니다.
• 그래서 저는 감각이 무뎌져도 작동하는 장치를 하나 두고 있습니다.
• AI와 함께 만든 결과물을 출력해서 종이로 검토하는 겁니다.
• 화면에서는 AI가 만든 문장이 매끄럽게 흘러가서 그냥 읽히지만, 종이에 펜을 들고 있으면 한 문장씩 멈춰서 보게 됩니다.

☐ 이전에 손으로 쓰는게 나을까, 노트북으로 타이핑하는게 나을까?에서 손을 쓰는 느림이 생각을 붙잡는다고 썼는데, 검토도 같습니다.

• 이렇게 하면 당연히 느립니다.
• 그 느림이 바로 제가 일부러 남겨 두는 비효율입니다.

☐ AI가 대신 걸어 줄 수 있는 길은 앞으로 점점 늘어날 겁니다.

• 하지만 머릿속의 지도는 내 발로 걸은 길로만 그려집니다.