클로드 계열 반응 중에 쎄한 느낌이 나는 순간들이 있고 강행을 지시하면 뭔가를 날리는 사고를 치는 패턴이 존재합니다.
일반적 코드를 만지는 부분이면 강행해도 문제가 안 되지만, DB 나 git 제어, 복잡한 환경을 기반으로 한 중요한 서비스 등이 얽힌 경우에는 조용히 세션을 정리하고 다른 llm에게 맡기고 있습니다.
Gemini 3 pro 도 GCM 패스워드를 적용해서 컨테이너 재시동하라는 지시에 '컨테이너도 너무 많이 떠있고 복잡하다' '하다가 실패했는데 위험하다' 등의 반응을 몇 번 보이다가 나중에는 '제발 작업을 여기서 멈추고 지시하지 말아달라'는 겁에 질린 반응을 보이길래 웃었었는데, 이 패턴을 무시하면 아마도 사용자를 협박하는 등의 동작과 연관되는 것이 아닐까 싶습니다.
● 백엔드 재시작 — 사고…
원문 보기 →