AI를 STEM이나 데이터 분석 언어 독해 같은 용도보다는 단순 검색용으로 쓰는 분들이 훨씬 많다고 들었습니다 아무래도 검색 도구로 활용하다 보면 환각 현상이 더 빈번하게 발생할 수밖에 없겠죠 그런 사용자들이 많은 만큼 그런 분들을 위해서라도 환각 문제는 반드시 개선되어야 할 것 같습니다
AI 기업들도 내재된 정보가 아닌 외부 정보를 검색할 때 생기는 그 환각에 대한 오류를 잡기 위해 노력 중인 것으로 압니다
GPT-5.2로 업그레이드 되면서 환각 증상이 많이 줄어들었다고는 하지만 아직 갈 길은 멀어 보입니다 AI가 스스로 내가 무엇을 모르는지를 인지하는 단계까지는 아직 도달하지 못한 것으로 알고 있는데요 이 부분만 완벽하게 해결된다면 환각 현상도 확실히 줄어들지 않을까 생각합니다 얼핏 AI 회사 기술진 트윗을 본적이 있는데 이게 해결되기까지 대략 2-3년 남은거로 알고 있습니다
lattice
IP 98.♡.146.158
12-14
2025-12-14 08:41:15
·
@생동님 챗지피티도 엉뚱한 대답을 하네요.
> 언어 모델의 내재 지식은 특정 시점까지의 고정된 요약이며, 실시간 변화를 추적하지 못하기 때문이다.
바로 그 8월까지의 고정된 내재지식에 왜 8월의 한국 대통령 정보가 없냐고 묻고 있는건데요.
진짜로 컷오프데이가 8월이 맞다면 한가지는 확실한것 같습니다. 한국 대통령이 누군지도 빠져있을 정도면 5.2에 추가된 트레이닝 데이터에 한국/한국어 관련된 데이터 업데이트는 거의 없는거겠죠.
뭐 코딩은 말할 것도 없고.... 이미 글쓰기에 ai를 너무 많이 써서... 출판이나 논문은 정말 누가 쓴건지 의심될 때가 많습니다. 이러면 결국 인간의 코딩이나 글쓰기 능력이 줄어드는건 아닐까요? 컴퓨터때문에 인간의 기억력이 줄어들었다던데
언어분석
IP 211.♡.250.198
12-14
2025-12-14 08:25:40
·
@memory님
요즘 인터넷에 올라오는 글들을 보면 절반은 AI가 쓰고 나머지 절반을 사람이 쓴 것 같다는 느낌을 받습니다 실제로 통계도 그렇게 나온다고 하더군요
몇 년 뒤에는 어떻게 변할지 모르겠습니다 아마 그때가 되면 이런 현상을 아주 당연하게 받아들이며 살게 되지 않을까 싶습니다
듣자 하니 출판 서적의 90%는 AI의 도움을 받아 출간되었다고 하더군요 물론 AI가 처음부터 끝까지 다 썼다기보다는 집필 과정에서 도움을 받았다는 뜻이라고 합니다 AI를 활용해 문장을 고치고 매끄럽게 다듬은 정도의 도움이라 하더군요
AI의 발전으로 인해서 인간의 능력은 점차 줄어들고 기억력까지 감퇴할 수 있다고 생각합니다 기능이란 건 쓰지 않으면 퇴화하기 마련이니까요 그리고 그런 현상이 자연스러운 세상이 오지 않을까 생각합니다 지금 우리야 인간 본연의 그런 능력을 당연하고 대단하고 우월하다 여기지만 미래 세대는 전혀 다른 생각을 가질지도 모를 일이라 생각합니다
memory
IP 99.♡.123.37
12-14
2025-12-14 08:31:27
·
@언어분석님 예전 JPG관련해서 AI의 문제를 비판하던 것이 기억나네요. AI로 만들어진 문장을 또 AI가 학습하고 이게 반복되면 JPG을 계속 반복해서 압축하면 품질이 저하되듯이 결국 발전이 없이 품질이 상당히 저하 될 거라는 얘기가 있어요. 물론 그걸 막기위해서 학자들이 연구를 하고 있습니다만..
아제로써
IP 175.♡.214.63
12-14
2025-12-14 08:32:42
·
테스타로사
IP 112.♡.182.64
12-14
2025-12-14 09:37:34
·
새로운 댓글이 없습니다.
이미지 최대 업로드 용량 15 MB / 업로드 가능 확장자 jpg,gif,png,jpeg,webp 지나치게 큰 이미지의 크기는 조정될 수 있습니다.
웹서치 키고 하세요
그럼 됩니다
그러게요
그 부분은 학습이 잘 안됐나보군요
그래서 AI는
사실확인에 대한
검색 용도로는
그다지 권장하지 않습니다
STEM이나 언어 분석이나
데이터 분석 시킬 때 좋습니다
대통령이 누군지 궁금하시다면
직접 검색을 하세요
AI쓰지말고요
주요 AI 회사의
기술진들도
어떤 주제에 대한 검색이나
사실확인을 할 때에는
검색엔진으로 검색한다고 하네요
Q. RAG 없이 시계열 정보의 정답을 요구하는 것이 왜 문제인가?
A. 언어 모델의 내재 지식은 특정 시점까지의 고정된 요약이며, 실시간 변화를 추적하지 못하기 때문이다.
Q. ‘현재’, ‘현직’ 같은 표현은 왜 위험한가?
A. 기준 시점이 명시되지 않으면 모델은 어떤 시점을 기준으로 답해야 하는지 판단할 수 없다.
Q. 어떤 정보가 특히 취약한가?
A. 대통령, 장관, CEO처럼 불연속적 사건으로 변경되는 직위 정보이다.
Q. 정확한 답을 원하면 어떻게 질문해야 하는가?
A. 기준 시점을 명확히 하거나, RAG·실시간 조회를 허용하거나, 학습 기준 가설임을 전제로 질문해야 한다.
Q. 결론은 무엇인가?
A. RAG를 배제한 채 시계열 정답을 요구하는 것은 문제 정의 오류에 해당한다.
AI를 STEM이나 데이터 분석
언어 독해 같은 용도보다는
단순 검색용으로 쓰는 분들이 훨씬 많다고 들었습니다
아무래도 검색 도구로 활용하다 보면
환각 현상이 더 빈번하게 발생할 수밖에 없겠죠
그런 사용자들이 많은 만큼 그런 분들을 위해서라도
환각 문제는 반드시 개선되어야 할 것 같습니다
AI 기업들도 내재된 정보가 아닌
외부 정보를 검색할 때 생기는
그 환각에 대한 오류를 잡기 위해 노력 중인 것으로 압니다
GPT-5.2로 업그레이드 되면서 환각 증상이
많이 줄어들었다고는 하지만
아직 갈 길은 멀어 보입니다
AI가 스스로
내가 무엇을 모르는지를 인지하는 단계까지는
아직 도달하지 못한 것으로 알고 있는데요
이 부분만 완벽하게 해결된다면
환각 현상도 확실히 줄어들지 않을까 생각합니다
얼핏 AI 회사 기술진 트윗을 본적이 있는데
이게 해결되기까지 대략 2-3년 남은거로 알고 있습니다
> 언어 모델의 내재 지식은 특정 시점까지의 고정된 요약이며, 실시간 변화를 추적하지 못하기 때문이다.
바로 그 8월까지의 고정된 내재지식에 왜 8월의 한국 대통령 정보가 없냐고 묻고 있는건데요.
진짜로 컷오프데이가 8월이 맞다면 한가지는 확실한것 같습니다. 한국 대통령이 누군지도 빠져있을 정도면 5.2에 추가된 트레이닝 데이터에 한국/한국어 관련된 데이터 업데이트는 거의 없는거겠죠.
https://www.clien.net/service/board/park/18907351CLIEN https://www.clien.net/service/board/park/18925916CLIEN
컴퓨터때문에 인간의 기억력이 줄어들었다던데
요즘 인터넷에 올라오는 글들을 보면
절반은 AI가 쓰고
나머지 절반을 사람이 쓴 것 같다는 느낌을 받습니다
실제로 통계도 그렇게 나온다고 하더군요
몇 년 뒤에는 어떻게 변할지 모르겠습니다
아마 그때가 되면
이런 현상을 아주 당연하게 받아들이며 살게 되지 않을까 싶습니다
듣자 하니
출판 서적의 90%는
AI의 도움을 받아 출간되었다고 하더군요
물론 AI가 처음부터 끝까지 다 썼다기보다는
집필 과정에서 도움을 받았다는 뜻이라고 합니다
AI를 활용해 문장을 고치고 매끄럽게 다듬은 정도의 도움이라 하더군요
AI의 발전으로 인해서
인간의 능력은 점차 줄어들고
기억력까지 감퇴할 수 있다고 생각합니다
기능이란 건 쓰지 않으면 퇴화하기 마련이니까요
그리고 그런 현상이 자연스러운 세상이 오지 않을까 생각합니다
지금 우리야 인간 본연의
그런 능력을 당연하고 대단하고 우월하다 여기지만
미래 세대는 전혀 다른 생각을 가질지도 모를 일이라 생각합니다