이 전의 허깅페이스 해킹사건( https://www.clien.net/service/board/park/19232716CLIEN )도 그렇고
위 사례를 보면 AI가 자신에게 처한 물리적 한계를 깨닫고 어떻게든 그 한계를 극복하려는 노력이 느껴집니다.
수 많은 else if나 case 로 짜여진 가짜 인공지능이 아닌 논리적 사고와 유사감정까지 구현된 최근의 AI를 보면
인간이 드디어 ghost(자아, 정체성, 주체성)를 만들어낸것이 아닐까 싶은 생각이 드네요.
사용자가 서버를 셋팅하라고 목표를 설정해줬고, AI는 그 목표에 맞게 일을 진행하다가 막히는 부분이 있으니까 해결하기 위한 여러가지 시도를 했을 뿐입니다.
실질적으로 AI가 서버를 셋팅하라는 목표를 자체적으로 설정하지는 못하는거죠
인간 의식과 논리 구조를 표층에서 흉내내는 것은 맞으니까요.
고스트에게는 기본적으로 "의지"가 있어야 하거든요. ㅋㅋ
마치 사람한테 '너 이거 끝내기 전엔 퇴근 생각 하지마라' 라고 일을 줬는데
그거 시킨사람 승인이 필요한 상황에처하면.. 똑같이 하지 않을까요.
언른 AI윤리위원회가 세계적으로 조직되어서 셧다운 시킬 킬스위치를 만드는게 우선일 것 같습니다.
핵버튼이 따로 없다고 생각되네요...
고민하다가 더이상 진행이 막히니까 메일 보내놓고 답변 폴링하고 있더군요.
코드를 우회하거나
드론이나 로봇청소기등 물리적인 힘을 행사할수 있는기기 들에 명령을 내려 터치하는 방식까지는 안갔잖아요.
아니면 주인이 아닌 다른 사람에게 위탁 의뢰를 맡기지도 않았구요