요즘 정말 갑갑하고 스트레스 받네요. ai가 업무에 너무 침투하다보니 의지할수 밖에 없는데 하루에 한,두번 이상은
꼭 미친소리를 해대니까 이게 정말 힘드네요.
너무 당연스럽게 논리적으로 강하게 말하는데 깜짝깜짝 놀랍니다. 이게 진짜 사람 잡을려고 이러나 그런 생각.
관련 법규, 규정들 들이 밀면서 그대로 하다가 진짜 골로간다고 말해주면
"하하 제가 잠시 착각을 했습니다. 사용자님 말이 맞습니다"
"제 말에 오해가 있었나본데 제 뜻은 그게 아니고..."
이런게 거의 매일 발생하니까 덜컹하네요. 아무생각없이 그대로 따라가다가 진짜 인생 골로 가겠라는 상황이
너무 자주 발생하니 이걸 어떻게 처리해야되나 답도 없네요. 어디다 상의할때도 마땅치 않고..
혹시 비슷한 상황 겪는 분들 있나요?
그리고 반드시 지켜야 하는 가이드라인이 있다면 시스템 프롬프트로 설정해 놓으면 치명적인 실수를 줄일수 있습니다. 만약 일정한 형태가 나와야 하는 자주 하는 업무라면 gpts 나 gems 같은 것을 사용하시면, 출력의 일관성을 확보 할 수 있어 시간 절약이 됩니다.
하지만 잘 쓰면 정말 훌륭한 도구가 되기때문에 AI가 도입되면서 업무의 패턴이 변해야 합니다.
그냥 기존 패턴 그대로 AI가 알아서 해주길 바라면 큰 코 다칠 수 밖에 없을것 같아요.
개발자 기획자 카피라이터 HR 등등 몇명을 아끼는지 모릅니다.
그걸 이젠 LLM 이 하고 있습니다. ㅎㅎ
생각보다 말귀를 잘 못 알아먹어서요.
------
* AI는 인터넷과 책에서 스크랩한 거의 모든 단어를 담고 있는 단어 주머니임
- 사용자가 질문을 던지면, 주머니는 그 안에서 가장 관련성이 높은 단어 묶음을 꺼내 응답하는 구조로 이해할 수 있음
- 회사들은 여기에 보이지 않는 시스템 프롬프트, 즉 ‘보이지 않는 단어들’ 을 추가해 더 그럴듯한 응답이 나오는 메커니즘을 가지고 있음.
* 이 은유는 LLM의 거짓말·환각을 이해하는 데 특히 유용.
- 잘못된 답을 지적하면, 곧바로 과장된 사과와 다짐을 쏟아내지만, 바로 다음 문장에서 다시 틀리거나 거짓을 말하는 모습을 볼 수 있음
- 사람 기준에서는 이중적이고 기만적인 행동처럼 보이지만, ‘거짓말을 지적받았을 때 쓰이는 문장들’ 이 주머니 안에서 그냥 꺼져 나온 결과로 보면 자연스러움
- 계산기가 곱셈을 해주는 것을 인간 행동으로 부르지 않듯, 이것도 행동이 아니라 출력 패턴임
* “단어 주머니”는 어디에 강하고 어디에 약한지 예측하는 휴리스틱으로도 쓰임
- “북미 최악의 교통 사고 10건”처럼 많이 기록된 사건은 주머니 안에 자료가 풍부해 잘 답할 수 있음
- 반면 “Brachiosaurus brancai 재분류를 누가 언제 했는가”처럼 희귀한 정보는 주머니 안 텍스트가 적어 오답 가능성이 높음
- “인생에서 가장 중요한 교훈은?” 같은 질문은, 그 주제에 대한 인류가 써놓은 ‘가짜 심오함’ 텍스트가 워낙 많아서 똑같이 피상적인 응답이 나옴
<단어 주머니여, 우리에게 자비를 베푸소서> https://news.hada.io/topic?id=24922
------
제 분야 업무 지식을 활용할땐 절대 안씁니다. 거짓말을 밥먹듯이 하거든요.
Ai라고 불리는 놈들의 가장 큰 문제가
모르면 모르겠다고 해야지 아는척을 해서 그럴싸한 가짜정보를 만들어 줍니다.
그리고 캐물으면 정학한 지적이라고 그 가짜를 수정해서 다듬어 주죠
몇번 지적해도 계속 이러다가 마지막에 잘못된 정보라고 합니다.
이미지 생성 같은건 가끔 놀랍지만
사람의 패턴의식 능력의 허점을 톨해 만드는거라
이것도 자세히 보면 만족스럽지 않습니다.
뭐랄까 주화입마에 빠져서 계속 헛소리 하거나 안 되는 문제는 사람이건 AI 건 결국 내가 하게 되는 건 마찬가지라 그것도 별반 다를 바 없고 뭐 그렇습니다.
게다가 완벽한 걸 원하는게 아니라 적당한 초안 또는 보조적인 수준으로 보면 생산성이 놀랄만큼 올라간거 같습니다.
직원들이 업무용 AI 쓰다 헛소리한다고 한탄할 때 제가 속으로 중얼거립니다...
늬들 바라 보는 내 맘을 이젠 이해 하겠느뇨? ㅋㅋㅋㅋㅋㅋ
그리고 법률해석 요청하면 틀리는 경우가 많아서 맹신하면 안되고
차라리 법률이나 규정등의 관련내용을 업로드 한 후에 검토해달라고 하는게 정확성을 높을 수 있습니다.
즉 질의하는 내용의 레퍼런스나 근거를 직접 제공해서 질문하는게 더 좋은 방법입니다.
그냥 자신만의 방법을 찾는거죠.
그래서 '인간이 더 한단계 위다.'라는 느낌을 갖기도 해요.
이 말도 안되는 AI를 달래고 어르고 하면서 또 가공을 하잖아요.
이건 정말 AI 보다 한단계 더 위에 있어야 하거든요. ㅋㅋ
무료는 사용하지 마세요. 헛소리 감별하는 비용이 월 3만원보다는 훨씬 클 테니까요.
저는 ChatGPT 유료를 사용하다가, 제미나이 유료를 테스트 하는 중입니다.
ChatGPT Thinking 모델을 주로 사용하고, 제미나이는 사고모드를 사용합니다.
유료의 경우, 헛소리는 무척 많이 줄었어요.
ChatGPT Thinking은 헛소리는 적지만 답변을 내놓는데 시간이 좀 걸립니다.
제미나이는 빨리 답변을 내놓는데, ChatGPT Thinking 대비 헛소리가 많습니다. 업무에 더 도움이 되는 답변은 ChatGPT가 압도적으로 많네요.
그런데 테스트 한다고 두 개 사용해 보니, 두 개를 비교하는게 정말 엄청 좋더군요. (돈 나가는 소리.)
어쨌든, 무료 사용하면서 헛소리한다고 느끼지 마시고.
일단 유료를 사용하고 나서 경험해 보시기 바랍니다.
100을 얻는데, 비용은 1도 안 하는 것 같아요.