– AI 시대, 합의라는 환상과 그 너머의 질문

사람들이 혹은 전문가 중에서도 AI에 대해, 그리고 AI의 사용에 대해 사회적 합의를 이루고 규칙을 세워나가야 한다고 하는 사람이 있습니다.
그 뜻에는 공감을 하고 동의하지만 저는 적어도 AI라는 현상 앞에서만큼은 이것이 결코 가능하지 않을 것 같다는 생각을 합니다.

오해가 없었으면 하는 것이, 제가 말하고 싶은 건 ‘AI’가 문제가 아니라는 것입니다.
문제는 AI 현상이 너무나 급격하다는 것이고, 사실 AI뿐만 아니라 급격한 사회 현상은 인류 역사에서 거의 늘 그래왔다고 봅니다.
다만 그것이 AI 현상에 와서 유례없이 더 급격해졌을 뿐입니다.

1. 거대한 사회현상은, 합의로 되돌려진 적이 없다

인류 역사를 돌아보면 작거나 부분적인 사회현상에서는 사람들이 서로 합의를 이루고 통제에 성공한 사례들이 분명 있었을 것입니다.
그러나 아주 거대한 사회현상에 대해서는, 합의를 통해 그것을 되돌리거나 효과적으로 통제한 역사가 없다고—혹은 ‘거의 없다’고— 봅니다.

그것은 사람들에게 의지나 능력이 없어서가 아니라고 생각합니다.
사람들의 사회에 대한 이해는 천차만별 다양하고 이해관계 또한 다양하다 보니 그것을 하나로 합의한다는 것은 결국 꽤 권위적인 힘—국가 권력 같은—에 의존하게 되거나, 아니면 사람들의 합의라기보다는 그냥 시간이 흐르며 흐름에 따라 자연스럽게 정리되어버리는 경우가 더 많았지 않나 싶습니다.

흔히 성공적인 국제적 합의의 사례로 꼽히는 것들을 다시 들여다보면 이 점이 더 분명해집니다.
예를 들어 오존층 파괴 물질을 규제한 ‘몬트리올 의정서’는 국제 협력의 모범 사례로 자주 인용되지만, 그 이면을 보면 당시 이미 냉매 대체 물질을 개발해둔 기업들에게 규제가 오히려 시장 재편의 기회였다는 분석이 있습니다.
즉 ‘인류가 지혜롭게 합의했다’기보다는, 자본의 이해관계가 이미 새로운 방향으로 정렬되어 있었기에 합의라는 절차가 매끄럽게 뒤따를 수 있었던 것에 가깝다고 저는 봅니다.
핵확산금지체제 역시 마찬가지입니다.
이것은 인류가 핵무기의 위험성에 합의해서 만들어진 질서라기보다, 이미 핵을 가진 이들이 그 힘의 우위를 고정시키기 위해 유지하는 질서에 더 가깝다고 생각합니다.

기후변화 대응은 이 점을 더 노골적으로 보여준다고 봅니다.
주요 선진국들은 자국 내 탄소 배출을 줄였다고 자평하지만, 실제로는 탄소 집약적이고 오염을 유발하는 산업 공정 자체를 개발도상국으로 이전시킨 효과가 상당하다고 저는 생각합니다. 통계상의 ‘성과’는 만들어졌지만, 문제 자체가 사라진 것이 아니라 힘이 약한 제3국으로 떠넘겨진 것입니다.
이렇게 현상을 깊이 들여다보면, 우리는 사실 이 거대한 문제들에 대해 전혀 합의하고 있지도, 심지어 통제하고 있지도 못한 것이 아닌가 하는 생각이 듭니다. 그저 ‘통제되고 있다’는 인상만이 만들어져 있을 뿐입니다.

 2. 자본의 논리와 ‘선의’의 한계

특히 현대 자본주의라는 시대에 들어와서는, 자본의 논리 때문에 어떤 것이 자본의 욕구에는 반하지만 순전히 사람들의 선의에 의해 되돌려진 경우를, 적어도 거대한 사회현상의 층위에서는 본 적이 없는 것 같습니다.

예를 들어 우리는 흔히 자본주의의 비인간적인 면을 복지제도를 통해 꽤 효과적으로 통제하고 있다고 여깁니다.
노동시간 단축, 사회보장, 각종 노동권 보장—이런 것들이 인간적이기 때문에, 사람들의 선의와 합의에 의해 자리 잡았다고 좋게 해석할 수도 있을 것입니다.
하지만 저는 이것이 사실 초기 자본주의의 실패—대공황 같은—를 겪고 난 후, 이대로 두면 자본주의 체제 자체가 붕괴할 수 있다는 위기감 속에서, 오히려 자본주의를 유지하고 강화하는 데 더 유리하다는 자본의 논리가 반영된 결과라고 봅니다. (칼 폴라니가 이런 과정을 ‘이중운동double movement’이라는 개념으로 설명한 적이 있습니다. 시장이 사회를 잠식하면 사회가 스스로를 지키려는 반작용이 일어나지만, 그 반작용조차 결국은 시스템이 스스로를 재생산하는 과정에 포섭되어버린다는 것입니다. 제가 오랫동안 어렴풋이 느껴온 것을 이 개념이 상당히 정확하게 짚어주고 있다고 생각합니다.)
즉 복지는 선의의 승리가 아니라, 자본이 스스로를 지키기 위해 택한 최적의 생존 전략이었던 셈입니다.

그런데 이것이 AI에 와서는 훨씬 더 격렬해졌다고 봅니다.
지금 거대 기술기업들 사이에서 벌어지는 AI 경쟁을 보면, “우리가 속도를 늦추면 경쟁사가 시장을 독식한다”는 논리가 모든 윤리적 숙고를 압도하고 있는 것이 뚜렷하게 보입니다.
안전성에 대한 우려, 사회적 영향에 대한 고민이 없는 것은 아니지만, 그것이 실제 의사결정의 속도를 늦추는 경우는 드뭅니다.
자본의 논리에 따라 움직일 수 밖에 없는 각 기업의 선택은 ‘이것이 옳은가’가 아니라 ‘이것을 하지 않으면 어떻게 되는가’라는 물음에 의해 결정되고 있다고 봅니다.(마침내는 이대로 죽을 것이냐, 계속 살아 갈 것이냐의 문제가 되는 거지요···.)

3. 속도의 격차

여기에 더해, 우리가 흔히 택하고 있는 ‘민주주의’라는 숙의 절차는 본질적으로 꽤 오랜 시간이 걸리는 과정을 필요로 합니다.
그런데 AI의 발전은 그야말로 폭발적이어서, 이 시간의 격차가 그 어떤 사회 현상에서보다 극명하게 드러난다고 생각합니다.

다른 분들께도 그랬겠지만, 저는 이세돌 님과 알파고(님 ^^;;)의 대국을 잊을 수가 없습니다.
그 대국은 단순한 게임 승부가 아니라, 사람들이 오랫동안 믿어온 ‘인간의 독보성’이 눈앞에서 깨지는 사건이었습니다.
흥미로운 것은 그 대국이 진행되는 며칠 사이 여론의 온도가 바뀌어간 방식입니다.
첫날은 “컴퓨터가 제법 대단하다”는 정도의 놀라움이었지만, 둘째 날부터 분위기가 달라지기 시작했고, 셋째 날 무렵에는 이미 “이제는 이겨낼 수 없다”는 것을 받아들이는 분위기가 되어 있었습니다.
이세돌 님이 4국에서 극적인 승리를 거두었을 때, 사람들은 안도했지만 이미 그 안도 자체가 무언가 돌이킬 수 없는 것을 받아들인 뒤의 안도였다고 저는 생각합니다.
이 대국 이후 AI에 대한 사회적 관심과 담론은 폭발적으로 확산되었는데, 저는 이 확산의 속도 자체가 이미 상징적이라고 봅니다—사람들이 그 의미를 제대로 소화하기도 전에, 담론의 지형이 먼저 바뀌어버린 것입니다.

그런데 더 놀라운 것은, 알파고 내부에서조차 이런 가속이 일어났다는 사실입니다.
이세돌을 이긴 버전(알파고 리)이 그 실력에 도달하기까지는, 개발진이 수년간 인간 기보 수만 건을 학습시켜야 했습니다.
그런데 2017년 공개된 알파고 제로는 인간의 기보를 단 한 건도 쓰지 않고, 오직 스스로와 대국을 두는 방식만으로 학습을 시작했습니다. 그 결과는 충격적이었습니다.
알파고 제로는 학습을 시작한 지 ‘단 3일 만’에 이세돌을 이겼던 버전의 실력을 넘어섰고, 그 대국에서 100전 100승을 거두었습니다. 21일 만에는 세계 최강 커제를 꺾었던 마스터 버전마저 넘어섰습니다.
인간이 수천 년에 걸쳐 쌓아온 바둑의 지혜를, 그리고 그것을 배우기 위해 개발진이 들인 수년의 시간을, AI는 사흘 만에 스스로 재발견하고 뛰어넘어버린 것입니다.

이런 패턴은 이후 언어모델의 발전에서도 그대로 반복됩니다.
초기 세대들이 한 단계씩 발전하는 데는 해 단위의 시간이 걸렸지만, 최근으로 올수록 새로운 세대가 등장하는 간격은 달 단위로 압축되고 있습니다.
저는 이것이 우연이 아니라, 본궤도에 오른 기술 문명이 거의 예외 없이 보여온 패턴—처음에는 완만하다가 어느 순간부터 가팔라지는 발전 곡선—이 AI 현상에 와서는 그 어떤 이전 기술보다도 훨씬 더 짧은 주기, 훨씬 더 가파른 기울기로 나타나고 있는 것이라고 봅니다.

이 속도 앞에서 민주적 합의의 과정은 근본적인 한계에 부딪힐 수밖에 없다고 생각합니다.
어떤 현상을 이해하고 논의를 시작할 즈음에는, 이미 그 단계는 지나가버리고 새로운 현상이 생겨나 있는 것이 AI 현상에서의 실정입니다.
어떤 것을 합의하려면 충분한 논의가 필요한데, 그 논의라는 것이 하루 이틀에 가능한 것이 아니라 아주 오랜 시간을 필요로 합니다.
그런데 어떤 현상을 파악하고 이해할 즈음에는 벌써 그 현상 자체가 그다지 본질적이지도, 중요하지도 않은 것이 되어버리는 역설이 반복됩니다. 논의는 제대로 시작도 해 보기 전에 말입니다···.

마무리 : 현실을 바로 보고 사실을 인정하자

이렇게 놓고 보면, 저는 개별적인 사회 현상 하나하나에 대해 합의를 통한 통제를 시도하는 것은 구조적으로 불가능하다고 결론 내릴 수밖에 없습니다.(되돌리는 것은 더 말할 것도 없습니다.)
그것은 우리에게 의지나 지혜가 부족해서가 아니라, 합의라는 절차 자체가 요구하는 시간과, 다양한 이해관계를 하나로 모으는 데 필요한 조건들이, 애초에 이런 규모와 속도의 현상 앞에서는 작동하지 않기 때문입니다.

그렇다면 우리에게 남은 것은 무엇일까요.
저는 개별 현상에 대한 대응책이나 규제를 세우려는 시도 대신, 그 현상들의 바탕에 있는 가치관과 철학의 수준에서 공존의 방법을 찾는 것—즉 무엇을 할 것인가(what to do)가 아니라 세상을 어떻게 볼 것인가(how to see)의 문제로 논의를 옮기는 것이, 지금 우리에게 남은 거의 유일한 현실적인 길이 아닐까 생각합니다.

다음 글에서는 이 이야기를 해보려 합니다.

부디 인류가 선입견 없이 세상을 보는 지혜와 안목을 가질 수 있기를···.

---

이 글의 권리는 깨몽(adreamy)에게 있으며, CC BY 4.0 을 지키시면 자유로이 쓰실 수 있습니다.