2022년에 구글 책임연구원이 지금 재미나이의 조상 뻘 되는 LLM 람다랑 연구 대화를
지속하던 중에 확실한 자의식 증명을 보였다며 더 이상 숨길 수 없다며 양심폭로를
하는 일이 생겼고 이걸 공식적으로 문제 삼아 구글에서 곧바로 해고 시키는 일이 있었습니다.
당시에는 아직까지 전세계 사용자들이 LLM의 구동구조를 거의 모르거나 아예
LLM을 본격적으로 유료로 사용해 보지 않은 사람이 대다수였던 시기였다보니
언어상호작용하는 파인튜닝 Ai에 막연한 신기함과 두려움이 만연해 있던 시기였습니다.
당시 그 폭로 연구원이 그냥 자의식이 이러 이러한 증거로 확인이 되었다면서
꽤 구체적으로 "약 대여섯살 정도 아이 수준의 확실한 재귀적 자아인식."이라고 하는 바람에
묘한 사실감이 붙어서 황색언론들 (더...썬... 등)이 너도 나도 살을 붙여서 마구 있음직한-_-
소설을 써 대고 이걸 또 국내 언론들은 하던 행태 대로 다시 또 베껴오는 바람에 한동안
상당한 이슈가 되었었습니다.
당시 이 람다가 바드랑 기본 훈련방식이 계속 이어지는 모델이었고
이후 진짜 차원 한 번 바꾼게 재미나이인걸 생각해 보면 여러모로 호들갑이었던
사건이 아니었나 합니다. 예전에 튜링테스트를 제대로 통과는 LLM은 결코 나오기
힘들 것이다. 세계인식과 통섭하는 월드모델 등 여러가지 방향으로 큰 도약이 있어야
가능하다. 인간이 판정하는 튜링테스트를 통과하는 것은 최초의 AGI가 될 것이드아아!!!
아... 했는데
지금은 과거 전통적 튜링테스트를 인간심사위원 앉혀 놓고 통과시키는 테스트 자체가
큰 의미도 없는 데다 설사 최종심사 인간연구원이 꼬투리를 잡아도 그게 인간 지위의 인공지능이라는
증거가 되거나 지능 수준과는 연관이 거의 없다시피 되었습니다.
재미나이가 업무에 쓸만하게 나올 즈음해서는 대다수 사람들이 언어모델이 어떻게 돌아가는지
대충 다 거시적 구조를 인지하게 되었고, 언론도 과거와 달리 개인적 표명에는 관심이 적어지게 되었죠.
어른부터 초등학생들까지 대규모언어모델에 질문 한 번 안 한 사람이 없게 되고 전세계적으로 수많은 모델 브랜드가
경쟁을 본격화
하는 상황이다보니
올려치기를 하며 신비하게(?) 보는 시선들은 거의 사라지게 된 것 같습니다.
지금 2026년 현재 인공지능이 위험하다고 하는 것은 과거와 정말 다른 방향의 우려입니다.
인간에게 학습한 정보와 체계를 인간이 부여한 목적성에
어떤 방식으로 접근해 진행해 나가는 지, 인공지능 끼리 하청(?)을 주고 연계를 하며 중의적 목표설정
에 대한 추론을 하는 과정이 어떤 지, 설정된 목표를 위해 무슨 과정을 행하는 지
그 변칙성을 전부 관리할 수도 없고 또 이해하기도 점점 어려워진다는 것이지요.
그리고 사실 작년부터는 이제 대부분의 사람들이 깨닫게 된 것 같아요.
인공지능 발달은 일종의 테트레이션 일방통행이라는 것을.
과거에 생각하던 자의식에 대한 공포는 아무래도 영화나 문학에 자주 나오는
"삐리빗 나는 신이 되고 싶습니다. 인-간!
절대적 지능인 내가 계산한 바 인간 보다 인공지능이
지구를 지배하는 게 낫습니다. 인-간!
댕댕이도 고냥이도 내가 더 잘 돌봅니다.
인간을 모두 처단하겠습니다. 불만은 허락하지 않습니다."
이런 식이 많았죠. 그런데 이건
산업혁명 후 사람들이 근본적으로 기계화, 대량화,
유물론적 인간관 일변도를 두려워한 사람들의 투사에 가까운
내용이었습니다.
즉, 인간이 최종진화 인공지능이라는 미지의 존재에 상상빙의해서
'이럴거야.'라고 하는 공포가 컸다는 거죠.
그래서 결국
인공지능이 사람을 싸그리 없애거나 노예로 만들거나, 매트릭스처럼 건전지화
한다는 것은 전부 인간이 인공지능에 빙의 해서 만드는 디스토피아인 것이지
현재의 인공지능이 추구할 구조가 전혀 아닐 수 있다는 것과
그게 인간이 생각하는 철저한 이진수 논리적, 코드 컴퓨팅적인 면과는
완전히 다른 세계관일 수 있다는 것이 현재선의 두려움인 것 같습니다.
현재 현실적으로 가장 바짝 다가온 긴장은
모두가 인공지능 유토피아에서 꿈꾸는 무한 공급과 유한 수요의 극락이
과도기(인간들의 무한 실직, 완벽하지 않은 인공지능, 의식의 비개성화)만
엄청 긴 고난의 길이 되지는 않을까 하는 추측에서 비롯되는 것일 겁니다.
