제미나이,GPT등 요즘 사용을 아주 많이 합니다.
그런데 AI가 생각보다 너무 환각이 심하고 통계로 이야기 하고 질문자의 듣고 싶은 말만 하네요.
이번에 소프트웨어와 사운드바에 대해서 몇가지 확인하고 구입했습니다
그런데 없는 메뉴이야기를 하고 없는 기능을 이야기 하면서 추천을 하네요.
물론 100프로 거짓은 아닙니다..진실+통계내용이 들어가서 정말 아무것도 모르는 사람이면 큰일 발생하겠더군요.
문제는 3~4번 팩트체크를 하니 그때서야 님말이 맞습니다..;; 이렇고 있습니다.
그런대 주변에 보면 AI말을 100% 신용하는 사람이 너무 많습니다..
AI에서는 검색해보면 맞다고 하던데?
AI에서는 된다고 하던데..
요즘 그냥 제가 웹에 검색하는것이 더 안심될 정도입니다.시간이 들어서라도 개인적으로 웹에서 검색하는것이
안심될정도로 AI는 교묘하게 사실과 틀린것을 같이 이야기 하면서 질문자가 듣고 싶은 말을 하니..
하지만 이와 별개로 AI 환각을 통제하고 검증하는 기술들도 많이 발전하고 있죠. 이 손기술들을 제대로 익히고 있는지가 사람들 사이에서 AI 활용상의 차이 지점이 되는 듯 합니다.
현실에서도 말솜씨가 대단한 이들에게도 혹하긴하는데 나중에 알고보면 사기꾼인경우가 있는데
그보다 더 혹하게 말하는 ai에게 의심의 눈초리를 가지지 않는다면 더 위험하긴하겠네요
잘배우고 갑니다
어느 부분에서 질문을 했는데 정확한 경험을 하면 완전 AI를 믿더군요
그리고 제미나이는 환각이 많으니 gpt가 낫습니다
AI를 쓸따 최신 정보는 기본적으로 틀린거다라고 전제로 사용하셔야합니다.
(사실, AI에 환각이 있다면 사람에게는 선입관이라는게 있습니다.
얼굴 생김새만으로도 싫고 좋음을 금방 나누는 능력입니다.
심지어 자기가 믿고 따르면 합리적 사고는 사라지고 일방적 추종이 뒤따르게 됩니다.
간단한 예로 갈릴레오는 단지 지구가 둥글다고 말했다는 이유로 죽을 뻔 했습니다. 본인이 독실한 신자임에도..)
사실 확인이 필요한 사항은 그 출처와 어떤 부분에서 가져왔는지 표시를 같이 해달라고 하는게 좋습니다.
그리고 그 링크로 들어가서 확인하고 진짜로 있는지 확인하면 됩니다.
또한 그 링크가 있다고 해도, 신뢰할 수 있는지 확인하기 위해서는
해당 출처의 소유주, 지배구조를 분석해서 확인해보면 됩니다.
추가로 나의 의견을 검토하기 위해 사용한다면
그 사실이 맞다는 가정하에서 계속 질문한 후에
반대로 다시 그 말이 틀리다는 가정하에 계속 질문해 보세요.
그렇게 확인하는 과정안에서 내 의견을 다시 검토해 볼 수 있습니다.
분명 구글 포토 연동 된다고 했는데 막상 안되거나, 지원 종료 ...
물론 AI 답변에서 후보를 선정, 검색해서 막상 지원 안하는 케이스는 걸러 냈는데..
지원 종료 케이스는 정보를 찾기 어려워서 일단 구매하고 봤다가 환불하고 했었네요..
잘못된 설명을 아주 그럴듯하게 할 때가 자주 있습니다 .
재차 확인 시키고 다시 물어보고 해야 해요
맞는 답이 도출 될 수 있게 질문의 범위도 줄여가며 4번 5번 재차 물어봐도 자기 말이 맞다고 계속 우겨요
뭔가 견해의 차이도 아니고 확실히 답이 있는건데도 틀린 답을 하며 우기는게 참;;
모르면 모른다고 하든지; 모른다 라는 답변이 아예 없는건지;;
정답에 가까울순있어도 자기자신의 역량것 답을 도출할수밖에 없어요
그냥 나오는 답에는 한계가 있거든요
그렇다고 사람들은 불을 탓하지는 않잖아요. 잘못 쓴 사람의 잘못이 있다면 모를까
AI도 사람처럼 말하고, 곧 사람처럼 행동도 하겠지만
그래도 도구이고 사물 일 뿐입니다. AI에게 책임을 기대하거나 윤리를 기대하면 안됩니다.
할루시네이션을 줄이도록 정보 출처를 제한하거나 하는 컨트롤이 필요합니다.
그래서 이제는 종종 누락이 발생하는 정도의 환각만 남아서 통제하기가 아주 좋아졌지요.
타인이라는 생각으로 의견을 묻습니다.
그렇게 하면 최소한 결정은 내가 할 수 있으니까요
저도 같이 대화를 나누면서 나만의 답을 찾아가는 과정으로써의 도구로 이용합니다.
결정의 위탁이 되는 순간.. 많은 문제가 생겨납니다.
물론 사람이 가장 피곤해 하는것이 결정이긴 합니다. ㅎㅎㅎ
AI를 지능의 '대체'가 아니라 지능의 '확장'개념으로 봐야 적절한 이용을 할 수 있다고 생각합니다.
아무리 추론검색을 해도 AI가 최신 모든 소식을 다 인지 하지 못해서, 모델 불문 환각은 생길 수 밖에 없더라구요.