안녕하세요,

AI와의 대화를 근거로 한 주장글이 추천에 올라와있네요. 요새 이런식의 주장글을 좀 보게되는데, 감히 한 말씀 드려봅니다. 

제 생각은 ”이런 주장들은 가짜뉴스와 다름 없을 정도로 근거없다“ 입니다.

다들 아시겠지만 LLM은 ‘다음 단어 예측기’ 입니다. 언뜻 보기에 너무 그럴싸해서 진실을 담은 것 처럼 보이지만, 사실 학습데이터에서 가장 많이 나왔던 패턴을 흉내내는 수준입니다. 다음 단어 예측이 인간의 사고도 담고 있다 하는 논쟁도 있습니다만, 일단 프롬프트 입력에 따라 결과가 아주 많이 달라지는, 그러니까 일관성이 매우 부족한 지능입니다.

일단 저 개인적으로는 LLM을 근거로 주장하는 대부분의 명제들은 매우 적게 신뢰합니다. LLM이 지식 참조기로서 유용한 경우는 ‘화장실 청소법’ 과 같은 틀려도 큰 문제 없는 상식정보를 확인할 때 정도인 것 같습니다. 

그나마 초기 상태, 프롬프트를 아주 상세하게 공개해도 해당 대화의 신뢰도를 참고 해볼까 말까이지요.

그래서 드리고 싶은 말씀은, 

LLM을 근거로 하는 주장은 일단

1. 상세한 프롬프트를 요구할 것

2. 그래도 믿지 마실 것

입니다.

뻘글 읽어주셔서 감사합니다.