AI) 앤트로픽, AI의 자기개선 능력이 예상보다 빠르게 발전 중이라고 경고
번역&요약 GPT
Claude의 코딩 성능과 연구 보조 능력이 최근 6개월~1년 사이에 급격히 향상되며 AI 개발 속도를 크게 높이고 있다.
내부 평가에서 AI가 AI 학습 코드를 최대 52배 빠르게 개선하고, 연구 의사결정에서도 인간보다 더 나은 선택을 제안하는 비율이 크게 증가했다.
Anthropic은 이러한 추세가 장기적으로 AI가 스스로 더 강력한 후속 AI를 개발하는 '재귀적 자기개선'으로 이어질 수 있으며, 이에 따른 안전성과 통제 문제를 연구하겠다고 밝혔다.