법률
AI질문, 법률) 양자화된 데이터를 불러와 대답하는 AI는 무결성을 보장할까요?
조회 1,642 · 공감 0 · 댓글 2
법에서는 원본증거를 우선시하는거 얼핏 기억나는데요
무결성체크를 한다고 하죠?
특히 디지털증거의 경우 원본의 해시값과 위변조 또는 복본의 해시는 다릅니다.
AI의 답변까지의 과정중에는 양자화라는게 있는데
가중치가 양자화된 상태로 불러오는 텍스트이니, 이미 훼손이라고 봐야할지 문득 궁금해졌습니다👀
AI에겐 아직 질문하지 않은 상황입니다..
댓글 2
무결성은 데이터가 오염되지, 변형되지 암ㅎ았다는 것을 보장한다는 얘기입니다.
그러나, ai의 양자화는 weight가 양자화 됨으로써 답변이, 추론대상이나 방향이 선택될 '확률'이 변했다는 것을 의미합니다.
그러나 이 확률은 때때로 변하게 되며, 결과적으로 항상 같은 질문에 같은 답을 내 놓는 것을 보장하는 확률이 배제된 함수가 아닌 이상 '원본'이라 부를 답변이 없습니다.
그러므로 무결성에 관한 대상이 아닌것이지요.