Anthropic이 최근 Fable (Mythos 모델의 상용 버전, 가드레일 적용)을 출시했다.
신뢰할 수 있는 테스터가 가드레일을 우회하는 jailbreak을 발견.
미국 정부는 Dario Amodei에게 수정하거나 모델 배포를 중단하라고 요청했으나 거부.
Anthropic은 블로그에서 “심각하지 않다”고 주장했으나, 정부는 사이버 무기급 능력이 노출될 수 있다고 보고 수출 통제(foreign access 제한)를 발동.
정부는 Anthropic이 안전 문제를 해결하면 통제를 해제하고 일반 출시를 원하지만, Anthropic이 안전보다 상업적 이익을 우선했다고 비판.
이전 DoW(Department of War?) 관련 이슈와는 별개이며, 공은 Anthropic 쪽에 있다고 함.
https://twitt…
원문 보기 →