분명 작문이 아니라 어떤 주제에 대해서 정보를 요구하는 질문을 할때 관련없는 엉터리정보를 그럴듯하게 끼워서 답을 합니다. 영어로 해도 질문 종류에 따라 그런 경우가 많고요. 도무지 이해가 안되는게 AI가 모른다고 대답하거나 답변이 어렵다고 대답해도 신뢰가 깨지는게 아닙니다. 오히려 모든 질문에 억지로 답을 채우려다가 신뢰성이 완전히 무너집니다.
분명 내놓는 정보들은 기존에 인터넷에서 학습한게 분명한것들입니다. 아직 업그레이드중이라 학습이 모자라면 아는만큼만 답하거나 모른다고 해도 되는데 왜 굳이 그럴듯하게 조작을 하는건지 이상합니다. chatgpt의 AI엔진을 작동시켜놓고 학습을 시킨후에 이후에는 네가 판단해서 답을 해라라고 해서 나오는 결과들이 지금의 답인가봅니다.
님 말씀대로 최신 자료를 요구했을때 데이터에 없으면 모른다고 하면 될 껄 어떻게든 없는 사실을 만들어내더라구요ㄷㄷ
저도 좀 아쉬웠습니다.
클량에서도 AI이용한 야사진 올라올때 손가락 손목 이상하잖습니까?
그거랑 매칭하시면 이해가 되실듯요
자판기에 돈을 넣고 버튼을 누르면 물건을 내주는거죠.
버튼에 맞는 물건을 제대로 채워 넣었는지는 자판기가 알 길이 없죠.
땜빵 방법은....
(1) 묻는 말에 가장 그럴싸하게 말해보는 머신
(2) 적혀있는 말이 틀렸는지 맞았는지 찍어보는 머신
의 구성이겠죠...?
테슬러 정리: 인공지능은 아직 실현되지 않은 무언가이다.
질문의 퀄러티가 핵심입니다. 어느 정도로 정교한 질문을 하느냐에 따라서 많이 달라지더군요.
예를 들어 유머러스한 표현을 해달라고 하면 유머라는 단어를 넣어서 문장을 만듭니다. 이런건 아직 힘든거 같구요.
대신 '아시안인의 편견'에 대한 문장을 3천자로 써줘. 라고 하면 잘 써줍니다. 놀랍게도 커먼센스 부분도 워닝을 주구요.
더 좁혀서 '그럼 아시안으로서 아시안인의 편견을 깨라고 촉구하는 유튜브 스크립트'를 써줘. 하면 써줍니다.
그렇게 계속 좁혀가다보면 나름 훌륭한 정보를 주더군요.
물론 사람이 마무리해야 하는건 틀림없지만 하나의 아이디어를 폭을 넓혀가며 구체적으로 서술해나가는 과정은 훌륭합니다.
4명이 하루종이 머리 맞대고 고민한 결과물의 크기를 혼자 1시간만에 만들어낼 수 있더군요.
그럼 4명분을 한 사람이 처리하니 고용도 1인만 하면 되나? 라는 물음을 제 주변에서 하시던데
그건 아닌거 같습니다. 사람을 대체한다기보다는 아이디어를 구체적으로 진행할 때 드는 기본적인 리서치 시간 등을 줄여주는 역할을 하는 것이지 대체제는 아닌것 같습니다. 현재까지는요.
요 몇일 테스트하느라 챗GPT를 써봤는데 왜 미래라고 하는지 이해가 되는 시간이었습니다.
P.S; 2021년도 까지 데이터 베이스를 가지고 일을 해줍니다. 최근의 일들은 자기도 잘 모른다고 이야기합니다.
궁금한것은 여기엔 질문을 한글로 쓰셨지만 실제로는 영어로 하신건가요?
저도 궁그해서 살짝 써봤는데 한글로 물어보니까 좀 엉성한것 같아서요.
영어를 좀 하고 영어로 질문 해야 좋은 답이 나오는건지요?
저는 영어를 잘 못해서 영어로 좋은 질문 하기도 어렵지만 번역기로 어찌 어찌 했다 쳐도
답이 영어로 나올테니 잘 판단 하기 어려울듯 해서요 ㅎㅎ
아무래도 영어가 더 잘나옵니다. 한글의 경우는 답이 영어에 비해 속도면이나 나오는 양이 많이 뒤쳐집니다.
그리고 영어를 못해도 괜찮습니다.
저 같은 경우도 잘하는 편이 아니라 구글 번역기 2개를 띄어놓고 썼습니다.
질문을 영어로 변역할 것 하나와 답을 한글로 번역할 것 하나.
그리고 영어 답변과 한글 답변을 비교하면 대동소이 합니다.
그리고 그에 대한 팁을 드리면
답변이 중간에 끊기면 그걸로 끝내지마시고
'계속해' 또는 '이어서 해줘', 3번 항목에서 끊기면 '3번부터 계속해줘'하면 뒤 이어 써줍니다.
영어로는 컨티뉴, 컨티뉴 온, 3번부터 컨티뉴 등으로 하면 되구요.
오 감사해요 알려주신 팁 참고해서 다시 해볼게요^^
가치판단이 '옳고 그르냐의 가치판단'이라면 챗GPT에서는 논외로 하는게 맞을 것 같습니다.
그렇다고 챗GPT가 아예 방치하느냐? 하면 그건 또 아닌 것 같습니다.
인종차별에 대한 주의해야 한다는 문단을 마지막에 따로 기입한다던가. 누구누구의 주소나 이메일을 알려줘 하면 안된다고 합니다.
커먼센스 부분은 확실히 짚고 넘어가는 느낌이었습니다.
제가 말씀드린 질문이 정교해야 한다는 의미는
폭이 넓게 질문을 하면 일반론적인 답변을 하기때문에 좀 더 내가 질문하는 뉘앙스? 필요로 하는 답의 범위? 를 정확하게 해야한다는 뜻입니다.
예를 들면 제(한국인)가 챗GPT에게
'나는 미국에서 어떻게 살아야 하는가?' 라고 질문하면.. 아마도 3~5문장 정도의 일반적인 답변을 할것입니다.
그러나 '불교를 믿는 한국인이 미국에서 편견을 이겨내며 어떻게 살아야 하는지 10개의 항목으로 정리해줄래?'라고
물으면 완전 다른게 풍성한 답을 내놓을 것입니다.
수다쟁이 동료. 나름 똑똑한 .. 이라고 생각 하면 되는걸까 싶어요 ㅎㅎ
나랑 대화하면서 동시에 인터넷 검색을 하는 초능력이 있는 동료가
막 실시간으로 검색하면서 말을 막 하는거죠. 그래서 어쩔땐 맞는 말을 하지만
가끔 거밋말이나 횡설수설도 하는 ㅎㅎ
적절한 답을 유도하시려면 예제 케이스 두세개를 입력해주면 양질의 결과를 얻으실 수 았을거에요
https://www.washingtonpost.com/technology/2022/06/11/google-ai-lamda-blake-lemoine/
신기하고 재밌지만 진지하게 대접하긴 아직 여러모로 허접한 소프트웨어 랍니다.
내부가 어떻게 동작하는지 궁금하신거 같은데 이쪽 분야 공부해보시는것도 좋아하실거 같네요.
예를 들면 이런 식입니다. 얼추 맞는거 같지만 절반은 틀린 내용입니다.(임진강에 대한 질문과 답, 특히 예성강과 관련있다는거나 길이 크기등 모두 틀린 내용)
Tell me about the imjin River in Korea.
The Imjin River, also known as the Rimjin River or the Ryesong River, is a river located in North Korea and South Korea. It is approximately 790 km in length and its watershed covers an area of 47,900 square kilometers. The Imjin River is a major waterway that flows through the western part of the Korean peninsula, it forms the natural boundary between North and South Korea.
그리고 Chat GPT는 인터넷과 연결되어 있지 않습니다. 학습 과정에서 인터넷에서 긁어모은 글을 가지고 작문하는 법을 학습시켰고, 지금은 아는대로 대답할 뿐입니다.
이런 불완전한 인공지능에 사람들이 환호한 이유는 말을 잘 하기 때문입니다. 이전까지의 인공지능은 말을 이렇게 유창하게 하지 못했습니다.
관심이 있으시다면 OpenAI에서 작성한 블로그 글을 보시는 것을 추천드립니다. https://openai.com/blog/chatgpt/