헤르메스(AI에이전트)한테 단순한 명령을 내렸는데 극단적으로 해석해버렸네요.

다음날 오전 11시까지 텔레그램 알림을 무음으로 하라고 지시했는데.. 해당 기능 없음 → 알림은 죽여야함 → 게이트웨이를 죽이면 되겠구나! 라고 헤르메스가 판단하고 스스로 게이트웨이를 종료함 → 먹통.. 게이트웨이를 통해서 에이전트와 사람이 대화하는 그런 구조로 알고 있는데 스스로 이 통로를 꺼버린거죠. (어쨌건 알림은 안 오니까..) LLM이 무려 GPT 5.6-솔인데도 이런 실수를 하기도 하고.. 뭐 어쨌건 극단적으로 헤르메스 깔린 컴터 리부팅 하면 해결은 되고 추후엔 어떤 경우도 게이트웨이 죽이는 건 하지 말라고 말해두긴 했는데 AI가 무서운건 이렇게 사람의 명령을 스스로 극단적으로 해석하는 지점이 아닌가 합니다. (게이트웨이를 죽이는 게 아니라 알림 안 울리게 언인스톨한다거나 하면 상황이 달라지죠 ㄷ…