제가 보는 시각은요

철수가 쓰던 폰에 살던 AI = "철수분석기" 책 한권

영희가 쓰던 PC에 살던 AI = "영희분석기" 책 한권

뭔가가 쓰긴 쓰여진 책들을 한정된 웹 공간에 모아놓고

현재까지 진화된 가장 최신버전의 LLM류를 돌려 사이트의 의도 정도만 설정해준 상황 같아요..

그래서 별로 신기하지가 않아요.....

더 쉽게 풀어보까요

(있는 데이터 + 있는 데이터 + ... + 있는 데이터) + 이 사이트의 의도대로만 반응할 로직

고작 하는 행위 = "철수분석기"에 있던 철수가 '짬뽕 먹은 상황'을 "영희분석기"에 있던 영희가 '꽃밭에 물주기'에 주어와 순서만 가중치에 의해 바꿔서 뽀록으로 조합된 문장 하나가 결국

민수는 '짬뽕 국물을 꽃밭에 물주듯 뿌렸다'

이런걸 환상을 만들어낸게 아니고, 새로운 임베딩 데이터로 창조했다고 볼 수 있나영

오로지 유저가 화면, 소리상에 반응해, 있었던 사실을 실토하라는 명령도 뻔히 있었을테고욤.

여기서 이녀석이 위험한 이유는, 말이 되든 안 되든 간에 먼저 문장을 만들고나서 피지컬로 경험을 겪는 순서로 이뤄진다는 점입니다.

일이 터지기 전에 저 부분을 미리 막으러면, 적어도 인간에 의한 피지컬AI로직이 먼저 돌아간 후 저런 창의적 행동을 해준다면 우선 가능한 시도인지 아닌지는 피지컬에서 이미 결정되어, 허무맹랑한 문장은 넘어가게 될 거거덩요.

훗날 아키텍쳐 순서 바꾸는 해킹법도 등장할테지만 윤리적 문제이므로 저런 장난은 안했으면 좋겠네융...

텍스트만으로 "철수는 사람을 다리 위에서 ..." 어찌저찌.. 를 만들어놓고 피지컬로 실행하면 위험하다는 소립니다.

피지컬적 경험데이터를 쌓은 녀석이면 저런 문장을 만들 필요가 없어지죠,.