기술적 원리를 따지기 전에 실제로 써보면 경험적으로 압니다. 

오문이나 비문을 뱉어내는 일은 정말 흔하고요, 간단한 산수도 뻔뻔스럽게 틀립니다. 

고집은 또 왜 그렇게 센지..;;; 쌩까는 걸로는 어림도 없고, 몇 번을 반복 지적해야 단순오류도 가까스로 인정합니다.

AI가 '정답'이 아닌 '그럴듯해 보이는 답'을 내주는 기계라서 그런 거죠. 

원래는 '가'가 맞는데 '거'라고 쓰인 데이터가 쌓이면, "거가 맞아"라고 대답해주는 게 AI입니다. 

그래서 AI가 쓴 글이 비문인지 오문인지, 둘 다 아닌지, 수학적/통계적 계산이 맞았는지, 틀렸는지, 추론에 무리가 있는지, 없는지

판단할 눈이 사용자에게 없으면 아무 소용이 없는 거예요. 

그걸 그대로 갖다놓고 "AI가 이렇게 대답합디다" 하는 순간 밑천이 다 드러납니다. 

꼭 여기 얘기가 아니라...

요즘 그렇게 밑천 드러내는 글들이 곳곳에 너무 많네요. 

이걸 또 LLM이 주워먹고 더 멍청해지겠죠.