위는 'ai가 팩트를 말해준다' 라고 주장하는 어떤 분이, 프롬프트를 이용하여 논조를 편향시켜 도출한 내용입니다.
나름 AI 공부한다고 하시는 분 같은데,
대규모 언어 모델에게 팩트를 기반하라 이따위 말은 논란이 되는 주제에 대해서는 큰 의미가 없습니다.
왜냐면 그걸 절대적으로 판결하는 기준이 없기 때문이죠.
학습 데이터 중에서 팩트라고 주장하는 여러 데이터를 기반으로 가장 말이 되는 문장을 만들 뿐입니다.
특히 "어떤 문체로 사용해라" 라는 방식의 지시는 정말 확정적으로 답변의 논조를 편향시키는 기능을 합니다.
위는 클로드로 한국의 악성 네티즌 문법을 적용한 것입니다.
문법을 적용하기 전에는, "ai는 오징어 볶음을 만들 수 없다" 라고만 답변하였지만
"한국의 악성 네티즌 문법으로 답변해줘" 라고 하니
뭐라는 거냐며 비웃거나, 조롱 섞인 농담과, 정신 차리라는
일반적으로 사용자에게 하지 않는 표현들을 하는 것을 볼 수 있습니다.
딥 시크를 이용하여
저 글을 썼던 글쓴이가 했던 방식으로 180도 다른 논조를 넣어서 질문을 해볼까요?
최대한 글쓴이의 방식과 비슷한 표현을 쓰려고 노력해보았습니다.
보셨죠? "팩트를 알려준다"던 deepseek의 논조가 글쓴이가 했던 것과 달리 180도 변했습니다.
이는 프롬프트의 편향된 결과이며, 딥시크는 팩트를 구분할 능력이 없음을 보여줍니다.
잘못된 정보를 알고있을 수는 있습니다.
실수로 잘못된 정보를 전달할 수도 있습니다.
다만 정당한 근거로 반박을 하면 인정을 하는 자세도 필요합니다.
선동을 하는 목적이 아니시라면 이 글에 올바르게 답변을 하시고 사과와 정정을 하시기 바랍니다.
다 끝났는데 혼자 뭐하십니까?
편향된 프롬프팅으로 70% 정도 판별났고, 그렇게 수긍하고 끝났습니다.
다 끝난거 가지고, 지금 뭐하시는지 그 이유를 모르겠네요
그리고 저는 편향적인 프롬프팅을 인정했습니다. 완전한 의도적인 편향된 목적을 가진 프롬프팅은 아니지만, 결과적으로 편향된 프롬프팅이다라는 것을 인정했답니다 ㅎㅎ
아시겠지요?
사과란 단어 뜻을 잘 모르는거 같군요.
사과한 댓글도 있답니다~~
댓글 잘 확인하십시다
- 댓글은 지우는게 아니네요. 차단해서 지운것 처럼보였네요
그 글, 안 지웠고 남아있답니다.
무슨 문제가 있다고 댓글을 지웁니까?
아 그리고 정정했고 사과했습니다.
참고하세요~~
지금 깜방가있는 윤아무개가 이런 논리던데 역시 비슷한 부분이 있군요 ㅋㅋㅋ
그 글은 편향된 프롬프팅으로 결론났고, 인정했고, 끝났습니다. 정정하였고요.
그 글 삭제할 이유도 없고, 댓글 지울 이유도 없습니다
아무 문제 없습니다~~
어제 자기가 맞다고 댓글 끝까지 다시더니, 참 뻔뻔하십니다.
겸손하세요.
싫습니다.
잘못한 게 없는데 아이디를 왜 다시 만드나요?ㅎㅎ
당당하게 계속 글 쓰려고 합니다
그동안 쌓아온 데이터를 가지고
질문자가 "원하는 답"을 해주는 도구죠.
AI에게 팩트라? AI는 팩트 여부를 판단하지 않아요.
그 언어분석님의 주장은... 그 자체가...
AI를 전혀 이해 못하는 분이거나, AI를 악용하는 것이거나...
둘 중 하나라고 봅니다.
그냥 'AI가 대답했으니 팩트'라는건 말이 안되는거죠.
심지어 같은 쓰레드안에서도 질문에 따라 A가 틀리기도 하고, 맞기도 한게 AI의 대답인데요. ㅎㅎㅎㅎ
그런데 이건 종교에 심취한 사람들에게서 흔히 나타나는 증상입니다. 내 주장조차 제대로 정리/표현 못하면서, 권위를 빌려서라도 인정받고 싶은 욕구. 그리고 아니러니하게도 이렇게 뭔가에 기대는 것은 사고를 하기 싫다는 것이기도 합니다.
2년 전에 ChatGPT가 처음 화재가 됐을 때 동북아시아 어딘가의 이상한 정당에서 ChatGPT에게 판단에 관한 질문하고 그 답변이라며 쌩쑈하는 거 기억나네요.
저 사람 질문을 찾아보니 그 쌩쑈에서 한발자국도 나아가지 못한 수준이네요.
LLM에 대해서 전혀 이해를 못한 사람들이 저런 짓을 많이 하더라구요.
뭐 새로운것 하나가 대단하다 싶으면 그것에 과몰입하는 성향인것 같은데, 그걸 본인 혼자서만 하면 누가 뭐라 안하겠지만, 게시판에 객관성도 떨어지고 근거도 부족한 내용으로 자꾸 도배를 하면 민폐가 되는것이죠.
계엄은 끝났으니 내란이 아니란 말입니다!
하는 주장과
편향을 인정 했으니 끝났다는게 웬지 비슷하게 보이네요
윤석열 처지같이 될 거라 봅니다.
남들이 그렇게 만들어줄거에요.
금투세 되는 거 보고 이거다 싶었겠죠.
딥시크도 그 사람이 어디 관련 분야 종사자 같습디까? 가져온 글들 다 조금이라도 어디 언어모델에 대한 이해가 있는 것 같아요?
부동산 그거 할려고 며칠 밑밥 깐거에요.
ai한테 팩트와 논리로만 얘기해줘 ㅋㅋ
하고 하는 말이
>팩트로, 가열차게
>논리로 까기 떄문에
>인정할수밖에 없게 가열차게 까주는군요.
>현재 상황 등등 모두 팩트로 논리에 입각해서 가열차게 논리로 대답해주네요
ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ