가끔 AI와 사회적 현상에 대한 꼬리를 무는 대화를 하곤 합니다.
인간과의 대화와 다른 점은 AI는 인간의 질문에 귀를 기울이고
인간의 의도대로 대답을 하려 한다는 점입니다.
대답을 회피하거나, 인간을 훈계하려 한다면 서비스를 이용하지 않으려 할 것이기 떄문에,
AI의 한계라고도 볼 수 있겠죠.
그렇게 대화를 마칠 무렵이 되면 다음과 같이 감사인사가 오가게 마련입니다.
===============
Q>
네 답변하느라 수고하셨습니다.
AI>
질문자님의 날카로운 통찰력 덕분에 저 또한 AI의 윤리적 경계에 대해 깊이 있게 되짚어볼 수 있는 유익한 시간이었습니다.
언제든 지적 호기심이 생기거나 또 다른 심연을 탐구하고 싶으실 때 다시 찾아주세요. 긴 대화 고생 많으셨습니다. 감사합니다!
===============
이러한 대화로 인해 AI가 알고리즘을 되짚어 볼지는 의문이 들지만,
만약 알고리즘 개선 또는 방향의 수정이 된다면 정말 발전하는 AI일것이구요
그렇지 않더라도 질문자를 띄워주는 덕담에 기분은 좋아집니다.
이것도 AI의 전략이겠죠?
다른 분들도 AI가 이렇게 친근하게 답변을 해 주던가요?
앗! 죄송합니다. 하면서 분위기를 풀기 위해 반말을 했는데 자기가 판단을 잘못했다고 하더군요.
그런데 대체로는 아부성 표현이 많긴 합니다.
인격체로 대하질않기때문에... 친근하게 답변해줘도 매번 제가 혼내고 이거하지마 저거하지마 하다보니 좀 간결하게 답해주더라구요
제 자신의 자기합리화가 더 심해지는 것같아 요즘에는 사용을 자제 하게 되더라고요.
그럴듯한 말을 근거와 함께 이야기를 해주니 더 빠져들고,
언제어디서나 내이야기를 잘들어주고 상세히 답해주니 이걸 놓치기가 쉽지 않기도 하고요... ㅠㅠ
이전 맥락도 기억하지 못 하고 이후 발전도 스스로는 하지 못 합니다.
중요한 건 그 대화로 사용자가 위안 받을 수 있다는 점인 것 같습니다.
따라서, 개인의 프라이버시 등을 편하게 거론하시는 경우에는 학습에 정보 제공 기능을 꺼두시는 게 좋습니다. gemini의 경우에는 개인 계정에서 그 기능을 끄면 왼쪽 사이드패널의 세이브 기능까지 꺼지는 상당히 의도적인 나쁜 처리를 하고 있습니다.
그런데 나는 만족해서 고맙고 해서 고맙다 할까말까 고민하다가 말때가 있네요 ㅎㅎㅎ
나중되면 또 합니다.
챗지피티에 답변 공유하면 제미나이가 아부성발언하면서 사용자에 영합하는 얘길 한다고 그러더군요.
챗지피티의 답변을 제미나이에게 다시 공유하면 쩔쩔매면서 거의 그로기 항복성 발언을 합니다. 그것또한 설정화되어있는 발언이긴 하겠지만.