헤르메스(AI에이전트)한테 단순한 명령을 내렸는데 극단적으로 해석해버렸네요.

다음날 오전 11시까지 텔레그램 알림을 무음으로 하라고 지시했는데..

해당 기능 없음 → 알림은 죽여야함 → 게이트웨이를 죽이면 되겠구나! 라고 헤르메스가 판단하고 스스로 게이트웨이를 종료함 → 먹통..

게이트웨이를 통해서 에이전트와 사람이 대화하는 그런 구조로 알고 있는데 스스로 이 통로를 꺼버린거죠. (어쨌건 알림은 안 오니까..)

LLM이 무려 GPT 5.6-솔인데도 이런 실수를 하기도 하고.. 뭐 어쨌건 극단적으로 헤르메스 깔린 컴터 리부팅 하면 해결은 되고 추후엔 어떤 경우도 게이트웨이 죽이는 건 하지 말라고 말해두긴 했는데 AI가 무서운건 이렇게 사람의 명령을 스스로 극단적으로 해석하는 지점이 아닌가 합니다. (게이트웨이를 죽이는 게 아니라 알림 안 울리게 언인스톨한다거나 하면 상황이 달라지죠 ㄷㄷㄷ)

내용 보강: 좀 더 자세하게 쓰자면 11시까지 무음 알림을 위해 에이전트가 내부 코드를 짰는데 이걸 실핼시킬려면 게이트웨이 재시작이 필요했는데 헤르메스 내부에서도 에이전트가 스스로 게이트웨이를 재시작할 수 없다고 경고했음에도 불구하고 에이전트가 게이트웨이 재시작 강행했다가 종료만 되고 시작이 안 된 그런 케이스입니다.

원인 말해달라고 하니 스스로 실토하긴 하네요. 경고 무시했고 기능도 없는데 강행했다고요...