주의 - 전문적이지 않고 일부 상상도 섞인 캐쥬얼한 잡담수준 글입니다. 회원분들 수준이면 대부분 아시는 내용이 많습니다. 

대신에 누군가는 읽어보시겠지란 생각으로 적었습니다. 

————————

요즘 한국 안팎에서 너무 많은 갈등이 극단으로 치닫고 있습니다. 흔히 사람들은 내부 갈등이 극심해질수록, 절대적인 악이나 공통의 적, 외계인 같은 외부의 위협이 등장하면 다시 서로 힘을 합치게 된다고 반 장난식으로 말합니다. 저는 지금 우리에게 다가온 그 ‘외계인 침공’이 오히려 AI가 될 수 도 있지 않나 생각합니다.

아래는 다들 아실법한 여러 단상을 나열 해보겠습니다. 그러면서 대충 분위기를 전달하려 합니다. 

머신러닝은 제외하고 챗 지피티 데뷔부터라고 치죠. AI는 관련 법과 제도가 정비되는 속도와는 비교도 되지 않을 만큼 빠르게 성장하고 있습니다. 그리고 수년간 AI 산업을 둘러싼 주요 기업, 기득권, 투자 권력은 제재나 인간에 대한 존중보다 AGI를 향한 질주, 그리고 그 질주가 만들어내는 도파민과 이익을 먼저 선택해온 것처럼 보입니다. 

근데 AGI에 도달했다 해도, 그 이후의 세계가 자연스럽게 인본주의적인 방향으로 틀거라 믿기는 어렵습니다. 인간의 욕망은 뻔해서요,. 오히려 인간은 더 쉽게 대체 가능한 데이터, 비용, 리스크로 취급될 가능성이 있습니다.

한국만 봐도 온라인 갈등의 심화에 기존은 추천 알고리즘의 영향이 있었을 것입니다. 몇 년전부터 개인화된 LLM이 더해지고 있습니다. 사람들은 자신이 이미 믿고 싶은 결론을 강화해주는 근거를 더 쉽게 얻고, 확증편향은 더 정교해질 수 있습니다. 그만큼 본인이나 비슷한 생각들은 정답화, 조금만 다른 의견도 단순한 차이가 아니라 오답으로, 더 나아가 서로 적으로 간주되기 쉬운 환경이 되는 것입니다.

해외에서는 AI 챗봇이 자살이나 망상에 영향을 줬다는 의혹으로 여러 소송이 진행 중입니다. 물론 법적 책임이 확정된 것은 아니지만, 적어도 AI가 더 이상 단순한 도구가 아닌지는 오래입니다. AI는 이미 인간의 감정, 판단, 관계, 세계관에 깊숙이 개입했고 앞으로 더 기술적 미덕으로 마케팅/장려되겠죠.

저작권 문제를 의외로 심각하게 생각 안하시는 분들이 많지만 가장 핵심일 수 도 있습니다. 인간에 대한 존중 결여와 도둑질이죠. 서구 빅테크는 중국의 딥시크 발표후 비윤리적 데이터 수집을 비판했지만, 정작 자신들도 창작자, 언론, 예술가들의 저작물을 충분한 동의나 보상 없이 학습 데이터로 사용해왔다는 비판에서 자유롭지 않습니다. 뒤늦게 인간 중심의 가이드라인, 안전성, 저작권, 보상 문제가 일부 제기되고 있지만, 빅테크의 속내에서는 이런 질문들조차 이 바빠 죽겠는 시기에 발전만 늦추는 방해물처럼 취급되는 것처럼 보입니다. 미 정부 역시 비협조적인 지역에 패널티를 고려합니다. 뭐 관련법 추가되고 시사하는 척 하지만 기업과 기득권들이 얼마나 진심일까요. 

좀 다른 이야기로, 최근 소식도 한국에서는 AI 초과이익이나 초과세율 논의를 둘러싸고 다시 이념 갈등이 점화되었습니다. 

예전 같으면 곧장 사회주의나 공산주의라는 공격을 받았을 주장들이(한국은 지금 그 공격을 받고 있죠. 정부가 진보니까요), 아이러니하게도 미국에서도 테크 기업 대표와 정치권의 언급을 통해 한국보다 먼저 논의 됐었습니다. 내용은 다르지만 욕먹는 뉘앙스는 비슷합니다.

AI가 만들어낼 특이점 수준의 부와 권력이 특정 기업과 소수 자본에게 집중된다면, 그 이익을 사회가 어떻게 다시 나눌 것인가라는 질문을 피할 수 없기 때문입니다. 특히 AI관련 기술들은 단순 자본이 아닌 권력이 같이 모인다는게 더 무섭죠.

AI 기업들은 성장 초기에 인간이 만들어낸 방대한 데이터와 창작물을 활용해 빠르게 몸집을 키웠습니다. 적당히 봐줄거란 생각만 했고 도둑질이 많았죠. 그 과정에서 발생한 이익이 다시 사회나 창작자에게 충분히 돌아가고 있는가에 대해서는 심각한 의문을 갖는 사람들이 없을리가 없습니다. 

이 관점에서 보면 AI 초과이익 논의는 단순한 반기업 정서나 이념 논쟁이 아니라, 인간의 데이터와 창작물이 만들어낸 부를 누가 소유할 것인가에 대한 질문입니다. AI 기술이 만들어낸 이익의 핵심은 국민들의 세금처럼 인류의 지식과 창작물이란 관점이죠. 

솔직히 도둑질이나 애매한 규정을 통한 고지없는 학습이 대부분이 아니었다면 사람들은 좋게 좋게 넘어갔을겁니다.

이런 변화 자체가 이미 하나의 특이점이라고 봅니다. 단순히 기술적 특이점만을 말하는 것이 아닙니다. 엄청난 기술적 특이점을 향해 가는 과정에서, 인간 사회가 기존의 정치 언어로는 더 이상 현실을 설명하지 못하게 되는 순간이 오고 있다는 뜻입니다. 

예전의 좌파와 우파, 시장과 국가, 자유와 규제라는 구분만으로는 AI 시대의 권력과 위험을 충분히 설명하기 어렵습니다.

앞으로 국가는 AI에 대비하기 위해 더 많은 논의를 하게 될 것입니다. 그 과정에서 갈등도 많을 것이고, 반대도 있을 것이며, 정책 실패도 있을 수 있습니다. 그러나 중요한 것은 지금 AI가 자칫하면 실제로 인류 앞에 등장한 일종의 ‘외계 침공’이 될 수 있다는 점입니다. 

AGI 시대에도 정말 인간이 강자일까요? 그때도 인간은 인본주의를 원할까요? 아니면 효율과 기술 발전이라는 이름 아래, 인간 중심의 문제의식을 촌스럽고 방해가 되는 태도로 취급하게 될까요? 지금도 환경운동가들이 종종 비현실적이거나 발전을 가로막는 사람들처럼 조롱받는 것을 보면, AI 비판자들도 비슷한 위치에 놓일 가능성이 있습니다.

그래서 저는 지금부터라도 다양성이 더 중요하게 다뤄져야 한다고 생각합니다. 정치를 넘어 기술을 바라보는 인식, 관점의 다양성, 인간을 비용이 아니라 목적으로 보는 윤리적 상상력도 쳐내는게 아니라 존엄 받아야 한다고 봅니다. 아쉽게도 아직까지는 현실은 반대로 가고 있습니다. 

사람들은 검증은 스킵, 첫 대답에 확신을 먼저 갖고, 알고리즘과 AI가 제공하는 답을 점점 더 자신의 생각이라고 착각하거나 거기에 끼워 맞춥니다. 이 사이클이 반복되면 대부분의 인간 사고는 스스로 답이라고 믿기 때문에, 조금만 다른 의견도 대화의 대상이 아니라 제거해야 할 오류처럼 보입니다.

요즘 메모리 가격이 오르고, 인플레이션이 심해지고, 특정 브랜드가 악마인지 아닌지를 두고 사람들이 싸우는 일도 물론 큰 문제입니다만 나중에 돌이켜 보면 이 갈등들은 작은 일부에 지나지 않을 수 도 있습니다. 

되게 뻔하고 클리셰적인, 귀에 고름 나올만큼 들으셨을 문장이지만 AI는 앞으로 우리가 상상해온 인류의 위기가 될 수도 있습니다. 

적어도 그렇게 되지 않도록, 인간 중심 사회 안에서 법과 제도로 통제 가능한 상태를 만들어야 합니다.

이런 생각이 조롱받고, 효율과 기술 발전만이 유일한 미덕이 되며, 모든 제재를 풀고 AI 관련 모든걸 몰아주는 방향으로 간다면 그것이야말로 진짜 디스토피아입니다. 

관련 이야기들을 찾아볼 수 록 LLM이 너무 고맙지만 동시에 이 빅테크들은 이미 자본을 넘어 권력을 쥐고 있기에 앞으로가 살짝 무섭습니다. 지금이 가장 순한맛일지두요.

여담이지만 엎친데 덮친듯. 환경문제도 역대로 심각하죠. 어쩌면 환경문제 해결책이 인류가 돌이킬 수 있는 시점은 이미 지났고 AI가 뭐라도 내놓길 희망고문에 있다.. 라는 말을 들었는데 AI가 인류 리셋으로 해결할 수 도 있겠단 상상을 자주 합니다.