아침에 지난 글을 보다 AI가 이해를 하는 것인가, 아닌가에 대한 게시글이 있어 읽고 글을 씁니다.
그 글에 달렸던 댓글처럼 이해라는 단어의 정의가 추상적이고 사람마다 달라 직접적으로 이 논제로 가부를 따지는 것은 삼천포로 빠질 수 있겠습니다. 하지만, 무슨 뜻으로 저 말이 나왔는지 공감하는 부분이 있어 그 내용으로 글을 써보려고 합니다.
"AI가 말을 하는, 즉 대답을 찾아내는 과정은 인간과 다르다."
저 말을 이렇게 표현하면 설명하기 쉽겠습니다. 제 생각에 현AI는 예전의 복잡한 조건문으로 구성된 결정 시스템에서 발전한 형태에 지나지 않습니다. 무슨 말이냐하면 어떤 물음에 대한 정답지를 갖고 있다는 것입니다. 하지만, 그 정답지라는 것이 언어의 작은 단위로 쪼개져 있고, 다수의 확률적인 정답들이 선택되기 때문에 다양한 변화가 있는 것입니다. 어떤 사람이 '나 힘들어', 하면 1,000가지의 단어 후보와 그 후에 나올 수 있는 1,000가지 단어 후보를 확률적으로 선택하여(만들어), '그래도 힘내.' 라고 위로하는 겁니다.
보통 사람은 어떤 사람이 피해를 당한 안타까운 사연을 듣다보면 그 사정에 공감하게 되고 화자가 느끼는 고통을 같이 느끼며 '진심을 다해' 힘내라 격려하고 위로합니다. 하지만, AI는 복잡한 메커니즘이긴 하지만 결국 정답지에서 답을 골라 출력하는 것이고요. 문제는 사전에 학습되지 않은 빈공간으로 가버리거나 낮은 확률의 대답이 생성이 되면 상황에 맞지 않는 뜬금없는 결과를 산출하기도 합니다. 예를 들면, 힘들어하는 피해자의 대화 중 피해자가 "죽고싶어."라고 말하고 사전에 잘 학습되지 않은 내용이면 AI는 갑자기 "한강다리에서 뛰어내리거나 수면제를 다수 복용하면 사망에 이를 수 있습니다..."와 같은 심각한 오류를 뱉어낼 수 있습니다.
결과적으로 효율적이지만 인간이라면 하지 않을 실수를 할 수 있는 겁니다. 그런 사례가 자율주행 중 사고나, 최근 인공지능 바둑의 결함입니다. 이세돌에게 한판 진 이후로 인간에게 단 한판도 지지 않았던 AI 바둑 프로그램이 갖고 있던 오류가 최근 발견돼 아마추어도 이 결함을 이용하면 쉽게 게임을 이길 수 있게 됐습니다. 그 바둑 오류는 인간이라면 절대 일으키지 않을 상황인데, 엄청나게 넓은 전장에서 인간의 돌을 둘러싸서 이기고 있는 AI를 아주 넓은 영역에서 둘러싸 잡아내는 한방 역전의 방법입니다. 보통 인간은 상대가 그런 식으로 조여오면 잡고 있는 돌의 숨통을 확실히 끊어 역전을 허용하지 않겠지만 AI는 부분, 부분 최선의 수를 찾는 식으로 동작하다가 결국 대마를 잡히고 게임을 지게 됩니다. 결국 바둑을 두는 방식이 인간과 다르다고 할 수 있습니다. 확률적으로 이길 확률이 높은 최선의 수를 찾아 두긴 하지만, 최선의 수는 아니지만 매우 쉽게 바둑을 끝장낼 수 있는 길로는 못 가는 것이죠.
결국 정답지가 없는 공백조차 다 채워져 완벽한 AI가 만들어질 수 있겠습니다. 그럼에도 불구하고 확률적으로 실수를 할 수 있죠. 인간도 실수를 하니 결국 결과적으로는 인간과 비슷하거나 더 나은 출력을 내겠습니다. 하지만, 정답지에서 답을 골라 출력하는 AI의 위로가 어떤 의미가 있을지는 한번 생각해볼 필요가 있겠습니다.
사회초년생때는 단순 전달하는 전화도 어려워서 버벅였는데 연차가 쌓이면 뇌를 안거치고도 말이 술술 나옵니다.. 어차피 거의 겪어본 상황중에서 골라서 말하는경우가 많으니까요.. 그래서 익숙하지 않는 상황이나 환경에서는 말이 잘 안나오고... 그런상황에서 임기응변으로 잘 대처하는 사람들도 결국 chat gpt의 beam width의 범위가 넓어 창의적인 대답을 하는게 아닐까요 ㅋㅋ