풀스택 개발공부를 취업용으로 해왔다가 결국 취미로 끝난 AI피해자인데용

오늘도 간략히만 원리 남겨보겠습니다

텍스트는 아니지만 인생에 한번씩 쓰인 데이터 조각들을 큰 모델 안에 담아둔 상태인 - 빅데이터

이 빅데이터를 머신러닝용으로 학습을 한번 시킵니다. - ML모델

알맹이 하나하나가 어떤 문장의 사이에 쓰였고, 어느 문자들과 접촉이 잦은지 - 가중치 부여, 임베딩

임베딩 된 기존에 나온 단어나 문자들을 가지고 이리도 조합해보고 저리도 조합해보고 맥락파악 알고리즘을 연구하는 과정들 - 트랜스포머의 일부(어텐션, 토크나이저, 등등의 로직)

대규모 언어 모델(LLM)이 답변을 생성할 때, 신뢰할 수 있는 외부 지식 베이스에서 관련 정보를 검색(Retrieval)하여 답변의 정확도와 신뢰성을 높이는 기술 - RAG (Retrieval-Augmented Generation, 검색 증강 생성)

여기서 추론은 가중치에 의해 뽑아냅니다

ML모델 안의 가중치가 매겨진 알맹이 하나하나를 임베딩했다고 하는데, 이녀석들은 4차원 좌표로 뿌려있습니다.

이미 뿌려져있는것들을 조합해서 답을 내주는 것이지, 없던 데이터를 새로 만들어서 임베딩시키는 과정은 현재 없어요.