이전에 「AI가 노동을 대체한 이후의 시나리오」 라는 글을 작성했습니다.
https://www.clien.net/service/board/park/19240715?po=0&sk=id&sv=jjinmandoo&groupCd=&pt=0CLIEN

AI와 로봇이 인간 노동 대부분을 대체한다면, 임금을 통해 구매력을 분배하던 방식도 바뀐다는 내용이었습니다.
기본소득이든, AI 자본배당이든, 기본서비스든 이름과 방식은 여러 가지가 될 수 있겠지만요.

그런데 AI 시대를 얘기하면 자주 나오는 반응이 있습니다.
"결국 소수가 전부 소유하고, 나머지는 배급받으며 겨우 먹고살겠죠."
이런 미래가 올거라고 막연하게 걱정하는 분들이 있습니다.

하지만 이러한 디스토피아론이 어떤 논리적인 전개와 함께 제대로 작성된 경우는 거의 보지 못했습니다.
AI 2027처럼 무조건적인 발전 가속 중에 AI에 의한 디스토피아를 예상한 글이 있지만 그것 또한 인간 기득권에 의해 다수가 억압되는 시나리오는 아닙니다.

x, 인터넷 커뮤니티 등에서 보이는 디스토피아론은 보통 그저 앞서 말한 것 같은 몇개의 문장 정도이고 근거가 같이 적혀있는 글은 보지 못했습니다.
'인간은 원래 이기적이다'라는 생각이 근거가 되지는 못한다고 보고요.

그래서 대부분 관심도 없을, 다소 긴 반박글을 오늘도 작성해봅니다.

“왜 기득권이 사람들이 풍요롭게 살도록 내버려 둘까요?”

전 기득권이 착할 것이라 믿는게 아닙니다.
오히려 그들이 철저하게 자신의 이익에 따라 행동한다고 가정하더라도, 대다수를 풍요롭게 유지시키는 사회가 유리한 선택이기 때문에 풍요롭게 살도록 할 것이라고 봅니다.

AI 시대 양극화가 더 심해진다는 것이 대다수가 가난하게 살아야 한다는 것을 의미하진 않습니다.

전제는 이전 글과 같습니다.
AGI와 그 이후의 AI시대, 로봇이 연구개발부터 생산시설의 건설과 운영까지 인간 노동 대부분을 대신하는 단계이며
또한 핵융합 등의 성공으로 에너지비용이 0에 가까워지며 그에 따라 기술적으로 모든 인구의 의식주를 풍요롭게 하는 것이 가능한 것을 가정합니다.

그런데 왜 이 세상이 오면 기득권이 사람들을 가난하게 만들어야 할까요?

기득권이 자신의 특권을 지키려 한다는 것은 이해할 수 있습니다.
그런데 어떤 특권을 지키기 위해 일반인이 최소한의 배급을 받으며 살아야 하는 것일까요?

인간의 노동력이 필요했던 지금까지의 사회에서는 기득권이 자신들 대신 사람들이 노동을 하게 만들기 위해 생계 압박을 할 필요가 있었습니다.
그럼 당장 먹고살아야 하니 좋지 않은 근무조건도 받아들여야 했으니까요.

하지만 생산과 서비스 대부분을 AI와 로봇이 담당한다면, 사람들을 금전적으로 부족하게 만들 필요가 없어집니다.
되려 사람들에게 상당히 좋은 생활을 제공하면, 그것으로 얻는 안정과 지지가 더 가치 있을 수 있습니다.

반대로 풍요를 생산할 능력이 뻔히 있는데도 일부러 접근을 막는다면 불만과 적대감이 생기기 마련입니다.
사회를 운영하는 쪽에서는 그 관계를 계속 관리해야 합니다.


사람들을 잘 살게 해줘도 자신의 핵심 권력이 유지된다면, 굳이 생활을 열악하게 만들어서 기득권이 추가로 얻는 이익은 무엇인가요?

인간은 이기적이고 악하기 때문이라는 말로는 설명이 부족합니다.
그 악의가 왜 대규모 사회의 지속적인 운영방식으로 선택되고 유지될 것인지까지 설명해야 하는데, 아직 제대로 된 설명을 본 적이 없습니다.
개인적으로 이야기를 짜맞춰봐도 그것이 가능한 시나리오에 결코 도달하지 못했습니다.

일반인이 풍요롭게 산다고, 기득권의 특권이 사라지는 것도 아닙니다

미래의 기득권이 갖고 싶어 하는 것이 무엇일까요?
어쩌면 그때의 기득권에겐 핵심 AI의 목표를 설정하는 권한, 거대한 생산시설의 소유권, 새로운 자원과 우주에 대한 우선 접근권, 문명의 방향을 결정하는 단체의 일원이 되는 것 등이 더 중요해질 수 있습니다.

그런데 그런 종류의 권력은 일반인에게 좋은 음식과 의료, 주거, 여행과 여가를 제공한다고 해서 사라지는 것이 아닙니다.
일반인의 생활여건은 지금보다 훨씬 좋아지면서, 핵심 의사결정권의 격차는 오히려 더 커지는 사회일 가능성이 높습니다.

네, 권력의 양극화는 지금보다 훨씬 더 심해질 것이라는 말입니다.
투표로 바꿀 수 있는 성질의 것도 아닐 것이라고 예상합니다.
평등한 사회가 올 것이라고 생각하진 않습니다.
기존보다는 기득권의 숫자는 줄어들겠지만요.

하지만 기본소득이 평등을 위해서 시행되는 것은 아닙니다.

대중의 풍요와 극소수의 특권은 논리적으로 양립할 수 있습니다.
"기득권은 특권을 포기하지 않는다"는 말이, "나머지 사람은 겨우 먹고살 것이다"의 근거가 되지 못합니다.

최소생존형 디스토피아를 예상하려면, 기술의 발전뿐 아니라 이런 정치적·제도적 조건까지 함께 가정해야 합니다.

"소비자가 필요 없어지면 나눠줄 이유도 없지 않나요?"

이전 글의 댓글에서도 나온 질문입니다.
완전히 자동화된 생산체계를 가진 집단이, 스스로 필요한 것을 모두 자체 생산할 수 있다면
일반인에게 물건을 팔아 돈을 벌 필요도 없어지는 것 아니냐는 이야기입니다.

이 지적은 받아들일 부분이 있습니다.
그 정도로 자급자족만하는 상황까지 가정한다면, “기업도 소비자가 있어야 하니 반드시 분배한다”는 논리만으로는 충분하지 않습니다.

다만 이 가정이라면 세계에서 가장 강력한 AI를 보유하고도 자신들만의 커뮤니티에서 따로 살아가겠다는 것과 다름 없습니다.
기존 경제체제에 간섭하거나 시장과 경쟁하지 않겠다는 것과 마찬가지니까요. 시장에 참여하지 않으면 권력을 유지할 수 없습니다.

그런데 AI 시대의 기득권이 될 정도라면 그들은 이미 자급자족이 가능할 정도로 부유한 자산가일 것입니다.
그런 이들이 갑자기, 스스로 가진 모든 영향력을 내려놓고 원래도 가능한 자급자족만 하려한다는 것은 논리적이지 않습니다.

풍요로운 미래에는 근거가 부족하다고 하면서, 디스토피아적인 미래에는 '인간은 원래 이기적'이라는 한마디로 설명을 끝내는 것은 균형 잡힌 현실 인식이 아니라고 생각합니다.

다 필요없고, 기득권은 무조건 이기적인 악인들이기에 최소한의 배급만 하면서 통제하려고 한다고 가정했을 때
소수가 인류를 억압할 힘은 어떻게 확보하는 것일까요?

여기서 흔히 나오는 말이 있습니다.
"AI와 로봇 군대가 있으니, 사람들이 저항해도 소용없을 것"

그런데 이 설명에는 중요한 과정이 하나 빠져 있습니다.
소수가 이미 인류 전체를 제압할 만큼 강력한 로봇 군대를 보유하고 있다는 결과만 있을 뿐, 어떻게 그 상태에 도달하는지는 설명하지 않습니다.

뛰어난 AI를 소유하는 것과, 그 AI를 이용해 사회 전체를 물리적으로 장악하는 것은 다른 문제입니다.
후자에는 실제로 작동하는 로봇과 생산시설, 에너지 공급망, 통신체계가 필요합니다. 그것들을 건설하고 배치하며, 다른 세력이 대응해도 통제력을 유지할 수 있는 수준까지 확보해야 합니다.

그 과정에서 지구상 모든 국가와 모든 군대, 경쟁 기업, 다른 자산가들은 무엇을 하고 있을까요?
특정 집단이 자신들까지 무력화할 힘을 확보하는 동안, 모두가 아무런 대응 없이 기다리고 있다는 가정도 필요합니다.

심지어 같은 국가 내 기득권이라고 해서 이해관계가 완전히 같은 하나의 집단인 것도 아닙니다.
누군가가 모든 것을 장악한다는 것은, 다른 기득권 역시 그 사람의 허락에 의존해야 한다는 뜻입니다. 그들이 자신의 권력과 안전을 순순히 넘겨줄 이유도 설명해야 합니다.

물론 처음부터 억압을 목적으로 내세울 필요는 없습니다.
산업용이나 치안용, 국방용으로 보급된 AI와 로봇이 나중에 통제 수단으로 바뀔 가능성은 있습니다.

하지만 그렇다면 이야기는 더 구체적이어야 합니다.
누가 그 시스템의 명령권을 독점하는지, 서로 다른 국가와 조직의 통제권은 어떻게 넘어가는지, 그 과정에서 경쟁과 저항은 왜 실패하는지까지 설명해야 합니다.

"로봇 군대가 사람보다 강하다"는 것만으로는, "소수가 그 군대를 독점해 나머지 인류를 지배한다"는 결론까지 도달할 수 없습니다.

저는 그런 미래가 물리적으로 절대 불가능하다고 단정하지는 않습니다.
다만 그것이 풍요로운 배급사회로 권력을 유지하는 것보다 훨씬 달성되기 어려운 시나리오라고 계산할 뿐입니다.

그리고 풍요로운 삶을 산다는 것 자체가 왜 비극일까요?

다른 주제지만 한 가지 더 말하고자 합니다.
생계를 위한 노동을 할 필요가 없는 삶과, 아무런 의미도 없는 삶은 다릅니다.

충분한 자산을 모아 일찍 은퇴한 사람이 있다고 가정하겠습니다.
그는 여행을 다니며 영상으로 기록하고, 가족과 시간을 보내며, 평소 목표였던 소설을 쓰고, 때로는 텃밭을 가꾸며 살고 있습니다.
이때 우리는 그 사람이 회사에 출근하지 않는다는 이유로 인간성을 잃었다고 하지는 않습니다.

그런데 그와 비슷한 선택이 대다수에게 가능해질 것이라고 하면
갑자기 “인간은 할 일이 없어지고 무기력하게 배급만 받는다”는 모습으로 묘사합니다.

왜 일부가 누리면 경제적 자유이고, 모두가 누리면 인간성의 상실일까요?

AI가 나보다 그림을 잘 그린다고 내가 그림 그리는 즐거움까지 사라지는 것은 아닙니다.
AI가 나보다 글을 잘 쓴다고 내가 생각을 글로 남길 이유가 없어지는 것도 아닙니다.

우리는 세계 최고의 선수가 될 수 없다는 것을 알면서도 운동을 하고, 전문 요리사보다 못하면서도 요리를 하고, 돈이 되지 않는 취미에도 시간을 씁니다.

생계를 위한 노동에서 벗어난 사람이 무엇을 할지는 각자가 정할 일입니다.
어떤 사람은 평생 탐구하고, 어떤 사람은 여행을 하고, 어떤 사람은 게임을 많이 할 수도 있겠지요.

중요한 것은 그 선택이 생존의 위협 속에서 강요되는지, 자신이 원해서 하는지입니다.
정말 생존을 위한 노동만이 인간의 정체성을 유지시킬 수 있을까요?
과연 어떤 것이 진짜 사람다운 삶일지...
일단 저는 노동에서만 제 가치를 찾을 수 있다고 생각하지 않습니다.

긴 글.. 읽어주신 분께 감사드립니다.