· 톺아보기

대놓고 프롬프트 편향을 유도해놓고 팩트라고 선동하는군요.

sebyul · · 수정

조회 32,508 · 공감 32 · 댓글 41

이미지 22.png


1-c148efb6.jpg





위는 'ai가 팩트를 말해준다' 라고 주장하는 어떤 분이, 프롬프트를 이용하여 논조를 편향시켜 도출한 내용입니다.


나름 AI 공부한다고 하시는 분 같은데,

대규모 언어 모델에게 팩트를 기반하라 이따위 말은 논란이 되는 주제에 대해서는 큰 의미가 없습니다.

왜냐면 그걸 절대적으로 판결하는 기준이 없기 때문이죠. 

학습 데이터 중에서 팩트라고 주장하는 여러 데이터를 기반으로 가장 말이 되는 문장을 만들 뿐입니다.

특히 "어떤 문체로 사용해라" 라는 방식의 지시는 정말 확정적으로 답변의 논조를 편향시키는 기능을 합니다.


이미지 21.png

위는 클로드로 한국의 악성 네티즌 문법을 적용한 것입니다.

문법을 적용하기 전에는, "ai는 오징어 볶음을 만들 수 없다" 라고만 답변하였지만

"한국의 악성 네티즌 문법으로 답변해줘" 라고 하니

뭐라는 거냐며 비웃거나, 조롱 섞인 농담과, 정신 차리라는

일반적으로 사용자에게 하지 않는 표현들을 하는 것을 볼 수 있습니다.




딥 시크를 이용하여

저 글을 썼던 글쓴이가 했던 방식으로 180도 다른 논조를 넣어서 질문을 해볼까요?

최대한 글쓴이의 방식과 비슷한 표현을 쓰려고 노력해보았습니다.


이미지 18.png


이미지 19.png



보셨죠? "팩트를 알려준다"던 deepseek의 논조가 글쓴이가 했던 것과 달리 180도 변했습니다.

이는 프롬프트의 편향된 결과이며, 딥시크는 팩트를 구분할 능력이 없음을 보여줍니다.



잘못된 정보를 알고있을 수는 있습니다.

실수로 잘못된 정보를 전달할 수도 있습니다.

다만 정당한 근거로 반박을 하면 인정을 하는 자세도 필요합니다.

선동을 하는 목적이 아니시라면 이 글에 올바르게 답변을 하시고 사과와 정정을 하시기 바랍니다.



댓글 41

  1. 언어분석 ·
    이미 끝났습니다.

    다 끝났는데 혼자 뭐하십니까?

    편향된 프롬프팅으로 70% 정도 판별났고, 그렇게 수긍하고 끝났습니다.

    다 끝난거 가지고, 지금 뭐하시는지 그 이유를 모르겠네요

    그리고 저는 편향적인 프롬프팅을 인정했습니다. 완전한 의도적인 편향된 목적을 가진 프롬프팅은 아니지만, 결과적으로 편향된 프롬프팅이다라는 것을 인정했답니다 ㅎㅎ

    아시겠지요?
  2. 카엔 · · 공감 27
    @언어분석님사과.... 그 글에 달아놓은 비야냥이 사과면 윤석열도 오늘 대국민 사과를 한거겠네요
    사과란 단어 뜻을 잘 모르는거 같군요.
  3. 언어분석 · · 공감 1
    @카엔님
  4. 언어분석 ·
    @카엔님

    사과한 댓글도 있답니다~~

    댓글 잘 확인하십시다
  5. lavant · · 공감 1
  6. CatRush · · 공감 4
    @언어분석님 누가 70% 정도로 판별냈나요? 본인이 70%라고 하면 70%인가요 저는 100% 라고 보는데 흥미로운 사람이네요
  7. B1_66ER ·
  8. lux · · 공감 1
    @언어분석님 말장난하네요
  9. 태양아래새로운 ·
    @언어분석님 그런데 이만희를 진짜 믿으시나요?
  10. 플리커 · · 공감 1
  11. 부산호야 · · 공감 1
    @언어분석님
  12. 스빈 · · 공감 1
    @언어분석님 님 재밌네요 ㅎ
  13. 마린대지 ·
    언어분석님// 누가 70%이래요???????
  14. krazyeom · · 공감 9
    https://www.clien.net/service/board/park/18773047CLIEN 놀랍게도 그 종교 사람이고, 사과와 정정은 없고 댓글은 다 지울거에요.
    - 댓글은 지우는게 아니네요. 차단해서 지운것 처럼보였네요
  15. 언어분석 · · 공감 1
    @krazyeom님

    그 글, 안 지웠고 남아있답니다.

    무슨 문제가 있다고 댓글을 지웁니까?

    아 그리고 정정했고 사과했습니다.

    참고하세요~~
  16. YouthGoneWild · · 공감 1
    @언어분석님

    지금 깜방가있는 윤아무개가 이런 논리던데 역시 비슷한 부분이 있군요 ㅋㅋㅋ
  17. 어머 · · 공감 10
    제가 클리앙 생활 오래하지는 않았지만 그 분 좋은쪽이던 나쁜쪽이던 이제까지 못봤던 새로운 네임드 등극이라고 생각합니다
  18. 언어분석 ·
    @어머님

    그 글은 편향된 프롬프팅으로 결론났고, 인정했고, 끝났습니다. 정정하였고요.

    그 글 삭제할 이유도 없고, 댓글 지울 이유도 없습니다

    아무 문제 없습니다~~
  19. 매니악맨션 · · 공감 2
    @언어분석님 인정은 무슨 ㅋㅋㅋㅋ 어이가 없네요.
    어제 자기가 맞다고 댓글 끝까지 다시더니, 참 뻔뻔하십니다.
  20. 매니악맨션 · · 공감 1
    @언어분석님 구렁이 담넘듯 대충 뭉게고 지나가려 하시니 댓글 답니다.

    겸손하세요.
  21. Asur ·
    @언어분석님 그냥 아이디 다시 파세요
  22. 언어분석 ·
    @Asur님

    싫습니다.

    잘못한 게 없는데 아이디를 왜 다시 만드나요?ㅎㅎ

    당당하게 계속 글 쓰려고 합니다
  23. Asur ·
    @언어분석님
  24. 별자리물고기 · · 공감 11
    AI는... 정답을 알려주는 솔루션이 아니라
    그동안 쌓아온 데이터를 가지고
    질문자가 "원하는 답"을 해주는 도구죠.

    AI에게 팩트라? AI는 팩트 여부를 판단하지 않아요.
    그 언어분석님의 주장은... 그 자체가...
    AI를 전혀 이해 못하는 분이거나, AI를 악용하는 것이거나...

    둘 중 하나라고 봅니다.
  25. kimmungyu · · 공감 4
    @별자리물고기님 그러니까요.
    그냥 'AI가 대답했으니 팩트'라는건 말이 안되는거죠.

    심지어 같은 쓰레드안에서도 질문에 따라 A가 틀리기도 하고, 맞기도 한게 AI의 대답인데요. ㅎㅎㅎㅎ
  26. 개구락지왕눈이 · · 공감 1
    의도하든 하지 않았든, ”원하는 말을 해주는 영향력 있는 존재“가 필요했던 것으로 보입니다. 그걸 통해 자신이 옳다를 인정받고 싶었겠죠.
    그런데 이건 종교에 심취한 사람들에게서 흔히 나타나는 증상입니다. 내 주장조차 제대로 정리/표현 못하면서, 권위를 빌려서라도 인정받고 싶은 욕구. 그리고 아니러니하게도 이렇게 뭔가에 기대는 것은 사고를 하기 싫다는 것이기도 합니다.
  27. 뿌꾸빠 · · 공감 1
    @별자리물고기님
    2년 전에 ChatGPT가 처음 화재가 됐을 때 동북아시아 어딘가의 이상한 정당에서 ChatGPT에게 판단에 관한 질문하고 그 답변이라며 쌩쑈하는 거 기억나네요.
    저 사람 질문을 찾아보니 그 쌩쑈에서 한발자국도 나아가지 못한 수준이네요.
    LLM에 대해서 전혀 이해를 못한 사람들이 저런 짓을 많이 하더라구요.

  28. 양자이론 · · 공감 9
    전문가도 아닌데 특정 분야에 대해 편향된 글을 지속적으로 다량을 작성하는것이 좋게 보일리가 없죠.
    뭐 새로운것 하나가 대단하다 싶으면 그것에 과몰입하는 성향인것 같은데, 그걸 본인 혼자서만 하면 누가 뭐라 안하겠지만, 게시판에 객관성도 떨어지고 근거도 부족한 내용으로 자꾸 도배를 하면 민폐가 되는것이죠.
  29. 하얀종이배 · · 공감 4
    이사람 원래 어그로 끌려고 글쓰는 사람입니다.
  30. supernovice · · 공감 4
    2시간짜리 계엄이 계엄입니까?
    계엄은 끝났으니 내란이 아니란 말입니다!
    하는 주장과
    편향을 인정 했으니 끝났다는게 웬지 비슷하게 보이네요
  31. 매니악맨션 · · 공감 1
    형편없는 근거에서 나온 편협한 주장을 굳게 믿고 타인에게 강요하시며 남의 말을 듣지않으니 윤석열과 다를 바가 없습니다.
    윤석열 처지같이 될 거라 봅니다.
    남들이 그렇게 만들어줄거에요.
  32. REVENTON ·
    예전부터 봤는데 그냥 본인 머릿속에서 나오는대로 우기는사람입니다. 논리랄것도 없고요, 그런사람 두명쯤 더 있는데 그냥 관심 안주는게 답이에요
  33. 벨벳언더그라운드 ·
    중국 인민의 개인정보 다 털어서 저렴하게 만든 ai 특히나 적대국가라 할수 있는 중국의 ai라면 이거 쓰는 사람이야말로 소위 말하는 빨갱이가 아닌가 싶습니다. 그걸 추앙하는 사람이라면 중국 국적이 아닐까 의심도 됩니다.
  34. deft · · 공감 1
    반성하는 사람과 운나쁘게 걸렸다고 생각하는 사람의 언어는 이렇게 다른 겁니다.
  35. Lyubishchev ·
    전 댓글에도 적었지만 이제라도 정체를 드러내서 다행입니다.
  36. blucat · · 공감 1
    이용제한요청 하나씩 꾹 눌러주세요~ ㅎㅎ
  37. 강멘 ·
    @blucat님 소중한 다른 회원분들 시간 낭비 시키는게 나쁘죠. 이용제한 필요한 분입니다
  38. 어떻게든 되겠지 · · 공감 1
    그 분 클리앙 활동 목적은 세금에 대한 반감 여론 조성해서 민주당도 세금 내리게 하려는 거에요.
    금투세 되는 거 보고 이거다 싶었겠죠.

    딥시크도 그 사람이 어디 관련 분야 종사자 같습디까? 가져온 글들 다 조금이라도 어디 언어모델에 대한 이해가 있는 것 같아요?
    부동산 그거 할려고 며칠 밑밥 깐거에요.
  39. forgotmind · · 공감 3
    이기는 게임이라고 하시더니 지셨나 보네요. ㅋ
  40. krazyeom ·
    @forgotmind님 기도 부족인가보네요.
  41. YouthGoneWild ·
    하는 짓이 너무 역겹더라구요

    ai한테 팩트와 논리로만 얘기해줘 ㅋㅋ
    하고 하는 말이

    >팩트로, 가열차게
    >논리로 까기 떄문에
    >인정할수밖에 없게 가열차게 까주는군요.
    >현재 상황 등등 모두 팩트로 논리에 입각해서 가열차게 논리로 대답해주네요

    ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

모두의공원 최근 글

모두의공원 목록 더 보기