사람들의 혼동 포인트를 짚어주려고 합니다. 아래 내용을 보고 적당한 이미지를 만들어주세요.
* 제미나이, 클로드, GPT툴 내부의 함수를 에이전트 자체에서 관여할 순 없다.
* 제미나이, 클로드, GPT툴에서 얻은 답변은 데이터이다.
따라서 제미나이, 클로드, GPT툴에게 아무리 사고원리를 들춰보라고한들 툴 내부의 함수를 알려줄리 없고, 데이터값에서만 계속해서 조정될 뿐이다. 데이터 가공으로는 할루시네이션을 잡는게 아니고, 툴 내부를 설계할때나 해당 고민을 해결해나갈 수 있다.
위 질문을 통해 얻은 설명용 사진입니댜.
이미지 캡션
왼쪽 (오해): 에이전트가 툴 내부의 사고 원리나 함수에 직접 관여하여 할루시네이션을 해결할 수 있다고 생각하지만, 이는 불가능하며 차단되어 있습니다.
오른쪽 (진실): 에이전트와 LLM의 상호작용은 철저히 '데이터' 수준에서만 이루어집니다. 프롬프트를 조정하는 것은 데이터 가공일 뿐, 툴 자체의 설계를 바꾸는 것은 아닙니다.
하단 (결론): 할루시네이션은 단순히 데이터를 가공한다고 잡히는 것이 아니라, 엔지니어들이 툴 내부의 구조와 알고리즘을 근본적으로 재설계할 때 해결될 수 있는 문제입니다.
로컬AI라는걸 만드는 공부해보면서 느끼는걸 말씀드리자면유..
직접 툴 자기자신을 고쳐가며 역할을 수행하는 기술이 나오긴 했습니당.
그런데 아직까지는 첫질문 자체에 내 정답이 될만한걸로 최대한 용어를 많이 담아줄수록 답을 잘 찾는 수준이므로.. 고지식한 질문이 오히려 도움되눈 상황입니다.
아직까진 고지식한 녀석인데 고지능AGI까지는 많은 걸름망들이 더 개발되어야 할 것 같아용☺️