GPT는 설령 틀린 답변이 아닐 지라도 엉뚱한 답변을 많이 합니다.
컴퓨터는 어떻게 작동해?
> 컴퓨터는 전기로 작동합니다.
이거 틀린 말은 아니지만 우리가 원하는 답변은 이런게 아니죠? 뭘 좀 아는 사람이면 여기서 질문을 수정하여 GPT에게 더 구체적인 답변을 요구 합니다.
근데 요즘 보면 'GPT한테 물어봤는데 컴퓨터는 전기로 작동한다고 하네요' 라고 올라오는 글이 많은 거 같습니다..
본인이 해당 분야에 대해 잘 알고 있다면 GPT는 정말 유용한 도구겠지만, 잘 모르는 분야에 대해 알아볼 때 너무 맹신하지 않았으면 합니다.
봐라 AI도 이렇게 답한다..라고 하더군요. ㅋㅋㅋ
컴퓨터의 작동 원리를 이해하려면, 크게 하드웨어와 소프트웨어 두 가지 관점에서 볼 수 있습니다.
… 어쩌구 저쩌구 (중간 생략)
원하신다면 다음 단계로, “CPU 내부에서 한 명령어가 실제로 실행되는 세부 과정(파이프라인, 캐시, 클록 등)”을 구조적으로 설명드릴 수도 있습니다. 그렇게 진행할까요?
평소에 대화에 따라 결과가 다른 듯하네요.
어떤 분야에 대해 물어볼 때 GPT가 저렇게 질문의 저의를 파악하지 못한(정확히는 제대로 된 질문을 하지 않은) 답변을 할 때 지식이 없는 사람은 그게 엉뚱한 답변이라는 걸 인지하지 못한다는 이야기입니다.
사실 그렇게 단순하게 답변하지 않습니다.
지금은 아주 전문가인척 상세하게 많은 내용들을 나열해서 보여줍니다.
https://chatgpt.com/share/68e60f12-3cac-8001-b9fb-6ebf20caa3a5
다만 확률적으로 최대한 가능성이 높은(이것도 사실 AI사양이나 옵션에 따라 달라지지만)걸
단순히 보여주는것이라
챗 GPT가 답변하는 내용에 대한 사실관계를 따져보고
사실에 맞는 내용인지 AI가 만든 허상(할루시네이션)인지
판단하는 능력은 있어야 합니다.
어떤 분야에 대해 설명한다고 GPT 복붙글을 가져오는데, 막상 읽어보면 컴퓨터는 전기로 작동합니다 급의 뜬구름 잡는 글이거든요
'오래 살려면 어떻게 해야 돼요?' 같은 막연한 질문에 뭐라고 답해야 할까요?
건강 관리 해라? 위험한 곳에 가지 마라? 남의 원한 사지 마라?
애초에 질문 자체가 막연한 질문이기에 퀄리티 있는 답변이 나오기가 힘듭니다.
문제는 GPT한테 저런 질문을 던져놓고 나온 답변을 그대로 올리는 사람들이 많다는 겁니다. 구체적으로는 요 며칠새에 환율이나 주식이나 국제 정세에 대해 저런 식으로 GPT 딸깍 글을 올리는 사람들이 정말 많아졌어요.
근데 자세히 읽어보면 질문 자체를 이상하게 던진 건지 엉뚱한 맥락으로 된 글들 투성이더라고요. 본문은 본인이 잘 모르는 분야에 대해 GPT한테서 답을 구해와서 본인이 무언가를 알게 되었다는 착각을 하고선 그걸 그대로 올려선 안된다는 이야기이기도 합니다.
제가볼땐 가짜뉴스에 확증편향적인 답을 얻는것 보다는 oai에서 어느정도 설정한상태의 인격을 가지고 필터링해주는 답변이 훨씬 상식적이고 낫습니다.
그렇게 답변을 구해오는 사람들은 대체로 권위있는 사람들의 말을 따랐을 거라고 생각합니다.근데 그게 gpt로 옮겨간것 뿐입니다.
그리고 gpt에 답을 구해와서 알게되는건 착각이 아닙니다.
thinking을 켜면 논문과 저널을 검색해서 답변을 구해오고
gpt가 하는건 자료를 토대로 추론하는것 뿐입니다
이미 gpt는 imo금메달을 땃고 코딩전세계 1위수준이고
수학에서 새로운 발견을 하고 있습니다.
님이 가져오신 의도대로 자료를 모으고 편집된 유투브보다 중립적입니다.
그리고 막역한 질문에 알잘딱 대답하게 만들어진게 gpt입니다. 대충질문해도 thinking 연장을 키면 사용자 의도이상을 파악해 추론해줍니다.
무의미하게 맹신하지말라 권유를 하는 것 보다는
제대로 쓰는게 어떤건지
어떻게 쓰라고 알려줘보세요.님은 어떻게 쓰는지 잘 모르시는것 같지만요..
그리고 GPT에게서 객관적인 답변을 얻으려면 질문도 객관적으로 해야합니다.
'이재명이 나라를 망치고 있는 이유를 설명해줘' 라고 GPT에게 말하면 GPT가 과연 객관적으로 답변을 해줄까요? 아뇨. 이미 망치고 있다고 사실로 전제해놓고 그 질문을 한 사용자가 듣고 싶어하는 대답을 해줄 거에요.
댓글 달아주신 분이 GPT로 정확한 정보를 잘 전달하고 계신다면 문제될 일은 없습니다. 저는 이미 틀린 글을 쓰는 분들을 많이 봤기에 그 분들을 겨냥해서 글을 쓴 거니까요.
별개로 '이재명이 나라를 망치고 있는 이유를 설명해줘' 질문해봤더니 다음처럼 대답하네요. :
그 질문은 특정 정치인(이재명 대표)에 대해 **“나라를 망치고 있다”**라는 전제를 깔고 있어서 제가 그대로 답하면 특정 정치적 입장을 사실인 것처럼 전달하게 됩니다. 대신 두 가지 방식으로 정리해드릴 수 있어요:
님의글
이재명이 나라를 망치고 있는 이유를 설명해줘' 라고 GPT에게 말하면 GPT가 과연 객관적으로 답변을 해줄까요? 아뇨. 이미 망치고 있다고 사실로 전제해놓고 그 질문을 한 사용자가 듣고 싶어하는 대답을 해줄 거에요.<--틀렸죠?
이미지를 클릭하고 보세요. 전체내용이 보입니다.
님이 물어보신 이재명이 나라망친 이유 설명해줘를 토씨하나 안빼고 그대로 gpt에게 물어봤습니다.
답변보셨죠?
이용자의 편향오류조차 thinking을 켜면 보정해줍니다.
듣고싶어하는 대답만을 하지 않습니다
예시를 보듯 질문을 객관적으로 하지 않아도 질문이 객관적이지 않다고 보정해 주죠?
밑의 댓글들 보니 제 문해력의문제다 좋네나쁘네가 아니다 뭐 어질어질 얘기가 많은데
틀렸습니다.
이건 버전별 성능의 문제가 맞습니다.
이 버전이 좋네 나쁘네의 문제입니다.
님은 구린버전이나 과거의 버전으로 편향된 판단을 하고 있는거고요.
질문자의 질문 편향오류와 낮은 수준의 질문을 보정하는것 또한 답변의 퀄리티에 해당하며 벤치마크도 있습니다.
거짓 전제 탐지율/정정율: CREPE·FalseQA 200문항.
명확화 질문 적합도: ClariQ 100세트(자동·인간평가 병행).
기권 정확도: SQuAD2.0·BBQ(UNKNOWN) 200문항.
모호성 해소 품질: AmbigQA 재작성 점수(정답-재질문 매핑).
ai를 개발하거나 사용할때 지표로 씁니다.
그러니 결제를 하고 thinking을 쓰고 프로를 쓰세요
레거시 버전이나 라이트버전을 쓰면서 ai는 이러니 저러니 한계는 뭐니 하며 맹신말라 이러쿵 저러쿵 하는건 바보같은겁니다.
최신버전 thinking 기준으로
일반인들은 차라리 ai맹신하는게
유투버 맹신하는것보다 낫습니다.
다만 이 글은 GPT로 글을 쓰는 사람들에 대해 제 마음대로 예측하고, 평가하는 글은 아닙니다.
순서가 다릅니다. 저는 이미 GPT로 쓰여진 퀄리티가 떨어진 글을 봤고, 클리앙에 그런 식으로 쓰는 분들이 꽤 많길래 그런 분들을 겨냥해서 쓴 겁니다. 특정 유저를 직접 겨냥해서 글을 쓰진 않으려고 했기에 다소 두루뭉술하게 쓰긴 했지만
GPT의 성능을 깎아내리거나, GPT의 힘을 빌리는 모든 사람을 비난하는 게 아닙니다.
Thinking을 쓰면 GPT의 취약점이 보완된다고 하셨는데, 이 글은 어디까지나 '취약점을 보완하지 않은' 사람들을 겨냥한 글입니다.
취약점을 보완하지 않은 사람들이라는건데
님이 말한 'ai의 취약점'이라는 전제 자체가 '거짓' 이지 않습니까...
저는 님의 거짓전제의 오류와 일반화의 오류를 짚은거에요
님이 그런 사례를 봤다면 님도 그사람이 거짓말을 했는지 실제로 ai를 써보고 검증을 해야 할 거 아닙니까..
실제로 thinking이 아닌 미결제 노옵션 버전에서도 님이 말한 거짓전제오류정도는 잡아냅니다. 현재의 ai성능이 실제 어느정도인지 검증도 안하고 그사람이 그러더라 이러쿵 저러쿵 잘못된 사실을 퍼트리면 안되죠.
그사람은 ai가 해준말중 자기가 원하는 부분만 골라내서 말 한 걸수도 있는데요.
만약 그렇다면 그건 ai의 취약점이 아니라 인간의 취약점이죠.
인간을 맹신하지 마세요
비꼬는게 아니라 진심으로 어디에 매몰되어 제 말을 자꾸 이상하게 해석하시는데, GPT한테 제 원문과 댓글 다 복사붙여넣기해서 피드백 받아보시길 권유드려요
이상하게 해석한적이 없어요. 님이 물어보란대로 이재명에 대해 자의적인 전제를 토대로 물어봤고 엉뚱한 답하는지 아닌지에 대해 실험결과 아닌걸로 결과도 나오지 않았습니까..
해석을 뭘했나요 전 해석한게 없어요. 님의 현 ai기술수준의 지식업데이트가 안된상태로 모호하거나 초보의 질문을 제대로 못알아듣는 수준으로 판단하는걸 제가 잘못되었다고 말한것 뿐입니다.
님의 최신기술에 대한 지식이 업데이트가 안된걸 왜 ai탓을 합니까..ㅎㅎ
님이 글에서 하고자 하는말은 ai는 사용자의 질문 수준에 따라 엉뚱한 답을 한다. 그러니 맹신말라 아닙니까..
이게 제 해석이에요. 근데 그 전제자체가 거짓이지 않습니까
질문수준에 따라 답변은 모호성의 해석,거짓전제 판별능력 등등인데 그건 이미 최신버전에서 그렇지 않고 질문수준이 낮거나 모호해도 알잘딱합니다. 즉 현재의 ai는 님이 제기하는 문제가 거의 없어요.
초보자가 컴퓨터는 어떻게 작동하나요 라고 물어보면 전기작동 뿐만아니라 알고리즘이나 원리에 대해 전문가 이상으로 답변해 줄겁니다.
근데 사용자가 거기서 맘에드는 내용이나 알아듣는 부분만 골라서 말할 뿐인거에요.
그건 님의 주장처럼 그러므로 ai를 맹신하지 말라고 할게 아니죠.
ai가 말하는거 좀 잘 알아듣고 대체로 맞으나 혹시 모르니 검증해라 라고 할말이죠
초심자는 차라리 뇌를 의탁하는게 낫다는게 그런 의미입니다.
의탁하지 않으니 자기 아는선에서 멋대로 부분발췌하고 해석해서 이용해버리니까요.
ai는 질문이 구려도 답변을 잘해요. 사용자가 못알아들을 뿐이죠
아니 애초에 본문은 이미 GPT를 잘못 사용한 사람이란 결과가 있는 상태에서 그 사람들을 겨냥해 쓴 글이라니까요?
GPT 구버전이 어쩌구 무료버전이 어쩌구, 이런 얘기하는게 문맥을 벗어난 이야기라는걸 왜 모르세요?
그럼 그 잘못 쓴 사람들이 무료버전이나 구버전을 썼겠죠 ㅋㅋㅋㅋ
이게 이해가 어려워요? ㅋㅋㅋㅋㅋ 저도 GPT 쓰고 있고, 환각을 줄이고 퀄리티 있는 답변을 얻어내려고 노력합니다.
제미나이랑 퍼플렉시티까지도 유료판 쓰고 있고요. 근데 클리앙에 'GPT는 이렇게 말하더군요' 랍시고 쓴 글 들 중에 상당수가 그럴싸하게 꾸며진 쓰레기글이 많길래
본인이 정보를 직접 검증할 능력이 있는게 아니라면 GPT 말을 너무 믿지말라고 돌려서 말한겁니다. 님처럼 대단하신분은 유료판도 사용하시고 정보교차검증도 하실테니 걱정 없지만 그런거 안하고 그냥 그대로 복붙하는 인간도 많으니까요 ^^ 이거에 뭘 그리 발끈해서 '니가 GPT에 대해 뭘 아냐 구시대 사람아~~' 라는 뉘앙스로 계속 지적하시는 거에요 ㅋㅋㅋ
'최신AI라 할 지라도 환각 문제가 100%가 해결된 것이 아니고, 질문자의 의도를 오해할 가능성이 존재하므로 그 정보를 스스로 검증할 능력이 없다면 AI의 답변을 절대적으로 신뢰해선 안된다'
이거 GPT한테 씽킹을 돌리던지 해서 틀린 말인지 답해보라고 하셔요~
님 전제의 오류를 짚었는데 자꾸 해석얘기가 왜나와요..
이재명 관련 님 예상답변대로 인가요?
초심자의 컴퓨터 질문에 대한 답변이 님 예상대로인가요?
아니잖아요ㅎㅎ
님이 예시를 든게 다 틀렸잖아요
님의 현ai에 대한 인식수준이 gpt3수준인데 대체 누굴 비판합니까...ㅎㅎ
제가 무슨 말하는지 대강 맥락을 이해했으면 이 예시는 이해를 돕기 위한 도구로써의 역할을 다한겁니다.
심지어 밑에 댓글로 당연히 실제 GPT는 저런 식으로 답변 안하고 설명을 위해서 저렇게 쓴 거라고 덧붙였지요?
근데 그 예시에 매몰되어 지적하는건 진짜 아무 쓸모도 없는 말다툼이나 하자고 드는거에요 ㅋㅋ
제가 지금 GPT를 잘못 사용하는 사람들을 지적하기 위해 글을 쓴 거란걸 이해하셨죠? 그러면 비유는 비유로써 이미 역할이 폐기된 거라구요. 그걸 걸고 넘어지는걸 우리는 말꼬리 잡는다고 표현하구요.
언제부터 근거의 사실여부가 말꼬리가 됐습니까
님의 전제와 근거가 다 틀리니
무슨 말하는지 맥락의 신뢰도가 아예 없지 않습니까ㅎㅎㅎㅎ
맞는 전제를 좀 가져오세요...
전제의 오류를 짚은걸 말꼬리로 여기면 님 말은 아무 신뢰도가 없는거에요.ㅎㅎ
님이 얘기하고 싶은건 gpt는 좋은 도구이지만 사용자에 따라 답변이 다르니 맹신하지 말라 잖아요.
사용자에 따라 다른건 과거기준 원론적으로는 대체로 맞지만 지금은 대체로 아니고
그것이 ai회사들이 결코 지향하는 바도 아니고 현성능도 아니에요.
사용자별 편차를 줄이는건 개발할때 품질평가 기준으로 쓰입니다. 그게 크다는건 님의 의도와는 다르게 ai가 구리단 얘기에요.
지능의 민주화, 멍청이도 높은 지능으로 생산성을 높이는게 시장확대를 위한 ai회사들의 목표입니다.
현ai의 바보질문에 대한 알잘딱 성능이 대체로 문제없을 수준으로 올라왔는데 님은 아직도 gpt3수준에 머물러 문제삼고 있잖아요.
그건 모르는 사람으로 하여금 ai의 현성능을 오해하게 할 수 있는 거죠.
해석해석 하는데 해석은 사실관계가 맞는얘기를 좀 한다음 요구를 좀 하세요...
ai 잘 못쓰는 사람에 대해 얘기하고자 하면
ai의 없는 오류를 근거를 들게 아니라
ai의 옳은 답변에서 편향발췌하는 사람얘기를 하셔야죠
님의 처음 전제가 맥락 이해를 위한 예시이고 말꼬투리 잡는다고 주장하고 싶으셔도
님의 추가 댓글의 이재명 질답 예에서 ai에 대한 현기술의 이해도가 편협하고 떨어짐을 님 스스로 증명했습니다.
말꼬투리로 몰고 싶으면 추가 예시를 들지를 말았어야죠 에휴...
굳이굳이 제가 그런 답변을 하게끔 질문지를 만들어서 GPT한테 질문하고 캡쳐해서 찍어올수도 있지만, 애초에 제 목적은 GPT 성능을 비난하는게 아니라
그런 유도심문형 질문을 걸고 답변을 받아놓는 사람들이 어떤식으로 질문을 잘못했는지 이해를 시키려고 이재명 예시를 든거에요 ^^
그렇게 GPT가 유도심문도 다 피하고 완벽한 대답만 한다고 믿으시면 님이 쓴, 그리고 앞으로 작성할 글들 싹 다 뒤져서 오류가 있는지 확인해드릴게요~
님의 첫 예시가 사실이 아니었고
제가 gpt는 잘대답한다고 하니
님이 추가로 든 다른 예시도 틀렸는데 무슨 말꼬투리 타령이에요.ㅎㅎㅎ
예시 두개 다 틀렸고 ai는 엉뚱한 소리 많이한다 주장도 틀렸습니다.
제가 님의 오류로 님의 의도를 곡해하고있나요??
아니잖아요.
님의 의도는 알고 있습니다.
ai는 좋은도구이고 사용자가 잘써야한다는게 님이 말하고자 하는 의도 아닙니까
그걸 제가 곡해하고 있나요? 아니잖아요.. 근데 무슨 말꼬투리라 우기십니까.
님 의도는 알고있어요.
제말은 님 의도대로 결론을 내고자 사실이 아닌 전제를 들지 말라는거 아닙니까.
ai는 좋은 도구이다 -> 참
ai는 비전문가에게 엉뚱한 소리많이한다 컴퓨터 이재명 등-> 거짓
그러므로 ai를 맹신하지 말아라 -> ??
님의 의도의 타당성을 위해 없는 사실 만들어 내지 말라고요 그건 논리가 없는거 아닙니까..에휴...
네
환각이나 편향된 답변을 하는경우가 """저런방식"""으로 했을 경우라는거죠????
근데 현ai는 저런방식으로 편향을 안일으키잖아요ㅋㅋㅋㅋㅋㅋㅋㅋ 저런예도 틀렸고 저런방식도 틀렸다고요...
매우 전문가가 프롬프트를 꼬고 꼬으면 편향을 일으킬수도 있겠죠. 근데 그건 프롬프팅 해커이지 일반사람이 아닙니다.
즉 ai를 잘 이해해야 편향도 가능한거에요.
오히려 ai를 잘쓰는 사람이 편향유도가 가능합니다ㅋㅋㅋㅋ
어휴...
고생 많으십니다.