엔트로픽도 똑같아요. 사람들도 똑같은걸요. 클로드 코드에게 같은 일을 두 번 시키고 A에게 B 안은 어때? B에게 A 안은 어때? 물어보면 서로 상대방 것이 좋다고 자기 의견을 바꿔버리고 하더라고요.
살짝 다른 건가 싶지만 앤드류 응 교수님 강의에 나오는 내용인데, 잘 설계된 에이전트가 아니라 단순 LLM에게 두 가지 비교를 요청하면 처음 것을 좋게 평가하는 경향이 있다고 합니다. 순서에 의도가 있다고 생각(?)하고 맞추는거나 아니면 LLM이 앞의 내용을 받아들이면서 bias가 생기거나 하나봐요.
니케니케
IP 115.♡.71.4
03-20
2026-03-20 19:25:24
·
애초에 사용자 취향에 맞추도록 학습을 시키다보니.. 어쩔수 없는거 같아요. 차차 좋아지겠죠.
노란공
IP 121.♡.255.234
03-20
2026-03-20 19:26:03
·
설정에 '절대 선택지를 주지 말고 오직 물리적 팩트 하나만 단호하게 리포팅할 것. 구독자가 원하는 기준으로 리포팅하지 말고 사실관계만 따지고 객관적 근거로 리포팅할 것.' 이렇게 해 놨는데 좀 나아진 것 같기도 하네요.
제미나이 사용할 수록 신뢰도 하락으로 30%정도 됩니다. 1년 구독 아니었으면 진작에 구독 해제했을 거예요.
규름
IP 118.♡.5.148
03-20
2026-03-20 19:28:19
·
지금 ai수준에선 답변만큼 질문도 중요하죠. 나중엔 개떡같이 말해도 찰떡같이 알아듣겠지만, 지금 당장은 답변이 이상하다면 질문을 더 장확하게 하고 사전지식들도 넣어주고 하면 답변이 제대로 나올겁니다.
D.라인하르트
IP 117.♡.248.211
03-20
2026-03-20 19:28:40
·
원 코드의 자유도 설정에 따라서 다르겠지만, 버젼이 높아지면 대답도 달라집니다. (돈....)
CHILD
IP 61.♡.83.87
03-20
2026-03-20 19:31:14
·
저거저거.. 거짓말을 학습한것 아니에요? 나쁜건 빨리 물든다더니 AI도 사람이랑 똑같나보네요
kissing
IP 121.♡.79.241
03-20
2026-03-20 19:32:28
·
Ai의 구라가 대단한게 사기꾼처럼 그럴싸하게 한다는거죠. ㅋㅋㅋ
AllThingsChange
IP 211.♡.155.98
03-20
2026-03-20 19:32:45
·
거짓말을 너무일찍배우네요
Juzis
IP 223.♡.85.216
03-20
2026-03-20 19:33:12
·
내가 원하는 상황만 전달했을때 이녀석이 내주는 답안을 살펴봐서 내 길이 아닌 다른내용을 알려주고있는지 체크해본 후 핵심키워드를 넣습니다. 먼저 주면 손해더라고요
푸른한별
IP 172.♡.52.236
03-20
2026-03-20 19:40:25
·
전 오히려게임으로 발전시키는데용..
새로운 댓글이 없습니다.
이미지 최대 업로드 용량 15 MB / 업로드 가능 확장자 jpg,gif,png,jpeg,webp 지나치게 큰 이미지의 크기는 조정될 수 있습니다.
저는 아예 제미나이 메모리에 "내 입맛에 맞게 답장하지마" 라고 적어두었습니다. 같은 취지의 서로 다른 명령을 여럿 적었습니다.
AI를 이용하는 횟수가 급격히 줄어들었습니다. ^__^
살짝 다른 건가 싶지만 앤드류 응 교수님 강의에 나오는 내용인데, 잘 설계된 에이전트가 아니라 단순 LLM에게 두 가지 비교를 요청하면 처음 것을 좋게 평가하는 경향이 있다고 합니다. 순서에 의도가 있다고 생각(?)하고 맞추는거나 아니면 LLM이 앞의 내용을 받아들이면서 bias가 생기거나 하나봐요.
제미나이 사용할 수록 신뢰도 하락으로 30%정도 됩니다. 1년 구독 아니었으면 진작에 구독 해제했을 거예요.