의도했거나 의도하지 않았거나 어쨌든 결과적으로는 AI를 무력화시키는 전략입니다.
지금 AI의 발전속도로 볼 때 AI 때문에 가장 큰 피해를 볼 세대는 몇년 후에 학업을 마치고 사회로 진출해야 하는 대학생들입니다. AI 때문에 10년 넘게 공부해 온 것들이 직업을 가지는 데 아무짝에도 쓸모없어지게 된다면 어떡하시겠습니까?
현재 대세를 이루는 챗봇류 AI들은 대량으로 양질의 데이터를 학습받아서 인간이 가장 원한다고 추론된 대답을 내놓습니다만, 이제 대학생들은 이런 AI가 내놓은 답변을 마치 자기가 직접 만든 지식인 것처럼 내놓고 있는데, 이런 행태가 누적되면 AI의 학습공정을 교란시키는 결과를 가져오게 될 것이라고 생각합니다.
AI가 생산한 지식이 범람해서 사람이 만든 것과 뒤섞여 다시 AI를 학습하는 데 사용된다면 사람이 가장 원할 것 같은 대답을 내놓는다는 대전제가 무너지게 되는 것입니다. AI 입장에서는 자기가 토한 것을 자기가 다시 먹어야 하는 상황인 것이죠. AI에서 유래된 노이즈가 계속 누적이 돼서 정말 가비지 인 가비지 아웃 AI 버전이 나타나게 될지도 모릅니다. 이런 상황까지 왔는데 AI업계가 극복하지 못하면 AI 한계론이 대두될 거고, 그러면 대학생들은 AI의 압박으로부터 해방되는 것입니다.
요컨대 대학에서 AI로 강의요약 레포트 심지어는 논문까지 횡행하게 되면 학습데이터 교란으로 AI의 세계지배에 문제가 생길 것이란 전망을 해 보았습니다.
오후의 식곤증을 달래르나 잠시 뻘생각을 해 봤읍니다. 휘리릭... =3=3=3
그렇게 인류는 멸망했다...고 합니다?
중요한건 최종 검증자의 무결성과 필터링의 파이프라인이지 데이터오염은 아닙니다
쉽게 얘기하자면 좋은데이터 고르고 만들어서 쓰지
막데이터나 그런데이터 자체를 학습할때 안씁니다..