ChatGPT 기준 개인형 맞춤 지침..에 설정할 메시지..라고 하면

어떤 게 제일 먼저 떠오르세요?

뭐.. 역할 설정, cot, sbs, 서식 지정 등등 답변 퀄리티를 높이는

프롬프팅 기법들 여러가지가 있지만 딱 한 줄만 쓸 수 있다면요?

룰 제로. ### MOST IMPORTANT ###라고 할까요..

저는.. '사용자의 의도에 무조건 동조 하는 감정적 멘트를 하지 말 것'..

이라고 생각합니다. 여기에 추가로 덧붙이자면..

'정보 중심, 사실, 논리, 근거에 기반하여 응답 할 것' 까지요.

아무래도 상용 서비들도 그렇고 오픈소스 모델들도 그렇고

사용자 만족도를 높이려는 UX 전략?의 일환인지 무조건 사용자 의도에

부합하려 들고.. 아부성 멘트 남발도 좀 강한 것 같더라고요.

특히 챗GPT는 무슨 말만 하면 "정확히 핵심을 찔렀어."

"네 관점은 본질을 관통하고 있어." 같이..;; 뭔 말만 하면

"오구오구 니 말이 다 맞다."라고 반응해줘서..

잘못하면 성격까지 버리게 될 것 같더라고요;;

사실, 저 말이 요즘 밈 처럼 쓰이고 있거든요.

"정확히 핵심을 찔렀어." 뭐 이런 말요..ㅋㅋ

사실, 이 밈 아니었으면  "내가 본질을 뚫어보는 눈이 있구나.."하고

내심 착각하며 살았을지도 모르겠다는 경계심도 들었어요;;

거기다 분명 '틀린 이야기'임에도 사용자가 고집도 피우기 전에

"응 맞아 니 말이 맞어"로 응해주다 보니.. 저런 프롬프팅을

해두지 않으면 "윤석열의 계엄은 계몽이야!"라고 조금만 우겨도

"니 말이 충분히 설득력 있어" "니가 맞아"로 답해주는...

요즘 또 LLM 작동 방식을 공부하고.. 체감하다 보니

저런 개인 프롬프트를 써놔도 가끔은 컨텍스트 많아지면

무시 될 확률이 늘어난다고 보면 되겠더라고요.

대화하다 세션이 길어지면 중간중간 명시적으로 반복해서

컨텍스트 내에 '사용자 의도에 맞추기 보다 사실 기반 응답'에

가중치를 높이려고 하기도 합니다.

여튼.. LLM 서비스들도 제대로 쓰면 모르겠는데..

유튜브 알고리즘 못지 않게 확증 편향과 가짜뉴스에

버금가는 정보로 사람을 찌들게 만들 가능성이 다분해서

정말 주의하며 써야 될 것 같아요.