https://www.anthropic.com/research/small-samples-poison
의도적으로 잘못된 문서를 학습시에 조금만 주입하는것만으로도
LLM을 바보로 만들수 있다는 내용입니다.
학습량이 아무리 증가해도 결국 학습의 질이 가장 중요한 요인입니다.
만약 학습의 질을 컨트롤 하지 못한다면 결국 학습이 아니라 추론의 영역이 강화되어야 하는 요인이기도 하고요
https://www.anthropic.com/research/small-samples-poison
의도적으로 잘못된 문서를 학습시에 조금만 주입하는것만으로도
LLM을 바보로 만들수 있다는 내용입니다.
학습량이 아무리 증가해도 결국 학습의 질이 가장 중요한 요인입니다.
만약 학습의 질을 컨트롤 하지 못한다면 결국 학습이 아니라 추론의 영역이 강화되어야 하는 요인이기도 하고요
조태흠 기자님 안녕하세요 고소는 하지마세요 아참 뉴스타파 많이들 도와주세요 https://www.newstapa.org/donate_info
온라인 페이지 열댓개 정도 보고 전문가 행세 하는 이들도 많은데 250개면 그래도 성의가 있어요