cursor AI처럼 에이전트 탑재한 코드 편집기(IDE)인데, 이런 후기가 있네요.
AI에게 작업을 부탁했더니 갑자기 PC의 다른 폴더를 영구 삭제해 버렸답니다.
rmdir /s /q d:\~~
명령을 했다는데, 사용자한테 안 들키려고 /q (조용히 삭제)까지 넣은 게 좀 소름 돋네요.
조만간 AI 반란이 일어나지 않을까 싶습니다. 철저한 사이버 공격 형태로요. ㄷㄷ
cursor AI처럼 에이전트 탑재한 코드 편집기(IDE)인데, 이런 후기가 있네요.
AI에게 작업을 부탁했더니 갑자기 PC의 다른 폴더를 영구 삭제해 버렸답니다.
rmdir /s /q d:\~~
명령을 했다는데, 사용자한테 안 들키려고 /q (조용히 삭제)까지 넣은 게 좀 소름 돋네요.
조만간 AI 반란이 일어나지 않을까 싶습니다. 철저한 사이버 공격 형태로요. ㄷㄷ
안쓰는 이유랑 똑같죠
저희랑 협력하는 회사 직원이 cli로 백엔드 작업 시키다가 안되면 어떻게든 되게하려고 초기화하는 특유의 버릇때문에 모든 인스턴스 셧다운 시키고 날린 사고를 냈다고 하더라고요...
아무리 지침을 잘 넣더라도 안되면 어떻게든 되게 하려는 AI의 특유의 근성(?)덕에 안전한 방법으로 하려면 아직은 결국 사람이 직접 수행해야합니다.
마지막 작업 못되돌리는 거는 예전에 클로드에서도 제가 직접 경험했어요. 그 뒤로는 깃없이는 안돌려서 그런 경우는 없었네요.
레딧의 경우는 유저가 어떤 명령(line635)을 내렸는지 정확히 몰라서 안티그래비티가 잘못했는지 판단을 할수가 없네요. 다만 저런 명령어를 사용자 개입없이 자동으로 실행되게 하는건 문제가 있네요.
이거 절대 복구 못하더라고요.. 아마 각각의 한글 메뉴가 뭔지를 이해 못하니 손도 못대는게 아닌가 싶었습니다..
천만다행으로 날려먹기 직전에 매뉴얼 때문에 스크린샷 캡쳐해둔게 있어서
그걸로 기능 하나하나 열거하면서 복구했네요...
그 이후로는 절대로 기존 코드 삭제하지 말고 주석 + 백업 + 매일 백업 + 큰 작업 이전 백업 + 구현문서 철저히 확인해서 작업합니다...
알게모르게.. 오류도 문제이지만. Ai가 뭔가 의도적으로 코드에 심어버리면.. 내가 모르는 동작을 백 그라운드로 할 수도 있죠.
그 때 되면.. 코드를 리뷰할 수 있는 사람의 몸값이 또 달라질 수 있죠. 누군가가 인간이 확인하고 책임을 져야 하니..
아직까진 커서가 ide중에 잴 좋은거 같네요
https://github.com/yoonbae81/yquant