주말에 GPT6 아스트라가 출시되고 잡생각이 드는게...
특이점이 오는 AGI, ASI 시대가 생각보다 훨씬 빠르게 다가오고 있는거 같네요.
“AI 아직 멀었네. 그래도 언젠가 특이점은 오겠지.”
저도 불과 작년까지만 해도 이런 생각이었는데, 지수적으로 발전하는 모습을 직접 지켜보다 보니 이제는 AI 자체를 걱정할 게 아니라 그 이후의 사회를 걱정해야 하는 게 아닌가 싶습니다.
수십 년 전 어빙 존 굿은 인간이 만들어야 할 마지막 발명품이 ‘초지능 기계’가 될 수 있다고 이야기했습니다.
인간보다 뛰어난 기계가 더 뛰어난 기계를 설계하기 시작한다면, 그 이후의 발전은 인간의 손을 떠날 수 있다는 이야기입니다.
그 단계에 도달하면 생산 구조도 완전히 달라질 겁니다.
기계가 기계를 만들고, 그 기계들이 다시 대부분의 공산품을 생산한다면 많은 제품과 서비스의 생산비는 지금과 비교하기 어려울 정도로 낮아질 수 있습니다.
그때 사람들은 더 이상 일을 하지 않아도 되는 게 아니라, 어쩌면 상당수의 사람이 지금과 같은 방식으로는 ‘일을 할 수 없는’ 사회에 살게 될지도 모릅니다.
그래서 계속 거론되는 것이 UBI, 기본소득입니다.
AI와 자동화가 인간 노동을 대규모로 대체한다면 기본적인 생계를 보장하기 위한 소득 지급은 자연스럽게 논의될 수밖에 없습니다.
하지만 저는 이 미래가 마냥 기분 좋은 상상만은 아니라고 봅니다.
UBI가 말 그대로 기본적인 생계를 유지할 정도의 소득이라면, 그것만으로 모두가 풍요로운 삶을 살게 되는 것은 아닐 겁니다.
그렇다면 모두가 비슷하게 사는 평등한 사회가 올까요?
대부분 알고 계신것처럼 No이죠...
AI, 로봇, 데이터, 에너지, 생산시설 같은 생산수단을 가진 사람과 그렇지 못한 사람의 격차는 지금보다 훨씬 커질 수 있습니다.
노동으로 부를 쌓을 수 있는 길은 좁아지는 반면, 자본을 가진 사람은 자동화된 생산수단을 통해 더 큰 부를 만들어낼 수 있기 때문입니다.
결국 모두가 기본소득을 받는 시대가 오더라도, 동시에 지금보다 훨씬 극단적인 초양극화 시대가 올 가능성도 있다고 생각합니다.
그리고 아이러니하게도 그 UBI의 재원 역시 결국 막대한 자본과 생산수단을 가진 계층과 기업에서 상당 부분 나올 수밖에 없을 겁니다.
AI로 생성한 초 양극화와 관련된 디스토피아적인 사진을 첨부하고 싶지만 너무 비관적일거 같아 생략합니다ㅎ
우리 세대에는 아직 조금 이른 이야기일지 모르지만, 우리 자녀 세대에는 꽤 현실적인 문제가 될 수도 있을 것 같습니다.
어떻게 생각하시나요?
즉 인공지능을 통해 누군가가 더 많은 부를 가질 수 있다는 게 오판이란 생각입니다.
우리는 이미 냉전시대때 이걸 해봤고 실패했습니다.
평등하지 않아도 모든 인류가 풍요롭게 지내는 것이 가능합니다.
또한 AI 시대의 기득권을 굳이 나눈다면 AGI 또는 ASI와 직접적인 소통이 가능한 계층일텐데 그것은 지구에서 수천명도 되지 않을 것입니다.
디스토피아를 생각할 때 어떻게 그 디스토피아가 가능할지, 차근차근 글로써 논리적으로 작성하다보면 그것이 생각보다 매우 어려운 조건이라는 것을 알 수 있습니다.
물론 평등하지 않더라도 모두가 충분히 풍요로운 사회가 가능할 수도 있겠지만, 과연 그 풍요가 모두에게 돌아갈지는 아직 의문이네요.
기술의 발전으로 모든 지적노동과 육체노동을 AI와 로봇이 대체한다면 가장 중요한 것은 에너지가 됩니다. 그리고 AI가 핵융합 또는 그에 준하는 기술을 이뤄낸다면 이 모든 노동의 비용은 0에 가깝게 수렴하게 됩니다.
스마트팜, 배양육 등의 여러 기술 발전으로 모든 인구를 먹여살리는 것이 가능한 식량 생산 또한 가능하게 됩니다. (이미 지금도 먹을게 없어서 지구상 어딘가의, 한국에서도 누군가가 굶어죽는게 아니죠. 제대로 나누질 못해서 그렇지)
주거 또한 마찬가지로 공급될 수 있습니다.
즉, 의식주가 모두 해결됩니다.
재활용 기술 또한 발전하므로 자원이 모자를 일도 없습니다.
자, 그럼 이것을 막으려면 오로지.. 지구상에서 AGI를 넘어 ASI에 접근 가능한.. 아마도 미국의 수백명, 많아봐야 수천명이 똘똘 뭉쳐서 AI와 로봇군대로 나머지 수십억 인구를 억압하는 방법 밖에 없습니다.
문제는 그러려면 그들에게 그 권력을 쥐어줄 로봇군대도 하루 아침에 만들어져야 한다는 것입니다.
나머지 모든 국가와 수십억 인구를 적으로 돌린 채로 말이죠.
불가능한 시나리오 입니다.
디스토피아 주장 대로라면 지금도 모든 국가의 기득권이 북한처럼 극소수가 대다수를 억압하며 왕처럼 지내면 됩니다.
그런데 왜 안할까요? 모든 기득권이 그렇게 악하다면 지금도 손잡고 그렇게 하면 되는데 말이죠.
디스토피아를 주장하는 사람들은 사람 본성을 운운하지만, 인류를 이롭게 하고자 하는 사람들이 있었기에 여기까지 온 것을 망각하는 듯 보입니다.
지금도 부자나 기득권층이 모두 악해서 격차가 생기는 건 아니라고 생각합니다. 많은 부자들이 세금을 내고 사회에 기여하고 있고, 그들을 제외한 대다수의 사람들도 현재의 소유와 분배 구조를 어느 정도 인정하면서 살아가고 있습니다. 물론 일부는 그렇지 않겠지만요...
제가 생각하는 초양극화도 누군가가 악의를 가지고 다수를 억압해서라기보다, 기존의 소유권과 자본 구조가 AI 시대에는 더 큰 탄력을 받으면서 지금보다 자연스럽게 격차가 커지는 경우에 가깝습니다.
그리고 양극화가 커지는 것과 기득권 외 많은 대중들이 최소한의 소득만 받는 것이 동시에 일어나야만 하는 것은 아닙니다.
지금의 메이저 AI회사들도 소수의 기득권 세력이 시스템을 독점하는 방향은 막겠다고 약속했으니, 일단은 그 방향으로 가길 기대해봐야죠ㅋ
인간이 기본적으로 이기적인 존재라서요.
재화가 넘처난다고 똑같이 나눌까요?
뭐 일 안해도 입에 풀칠은 해줄겁니다.
이를 선점한 국가들은 압도적인 가격 경쟁력으로 전통적인 제조업 국가들을 박살낼거구요.
이에 맞서서 보호무역을 한다해도 피지컬 AI를 기반으로 군사력도 무한정 팽창할거기에 상대가 안되죠.
말그대로 신제국 시대로 돌입할겁니다.
국가 내 양극화보다 이게 훨씬 심각한 문제일거라 봅니다.
그렇다면 두 국가가 압도적인 피지컬 AI와 군사력을 동시에 갖게 되는 상황에서, 왕이 둘일 수는 없을 텐데... 이후에는 어떤 시나리오로 흘러가게 될까요?
아마 우리가 지금 알고있는 민주공화정도 무너질것 같습니다. 어쩌면 먹을 것조차 못 주는 북한보다 그래도 먹을 건 던져주는 시진핑, 푸틴, 트럼프가 업그레이드 된 체제가 언뜻 떠오르긴 합니다.
저는 기본소득이 1984의 빅브러더의 출현이라고 생각합니다.
분명 profile쪽 코드에 있는 부분인데 왜 나에게 물어보는거지? 라는 제 프롬프트에
시치미때고 rg 열심히 돌리더니 블라블라 지가 찾아낸양 풀어낸 답변 보고 이게 agi라니? ㅋㅋ.. 이랬거든요..
...생각하신거는.. 아직 멀은 것 같은데요.