Claude Fable 5 안전 분류기 오탐, Anthropic은 무엇을 바꿨나

Anthropic이 2026년 8월 7일 Claude Fable 5의 생물학 안전 분류기를 재훈련해, 생물학 관련 폴백을 약 85% 줄였다고 발표했습니다. 일상적인 건강·교육 질문까지 Claude Opus 5 폴백으로 넘어가던 오탐이 이번 조정의 대상이었습니다.

오탐은 미처 걸러내지 못한 버그가 아니었습니다. 출시 초기에 의도적으로 넓게 잡아 둔 임계값의 산물이고, 이번 조정은 판단 기준 문서인 constitution을 다시 쓰는 데서 출발했습니다.

Anthropic 이 분류기의 constitution 부터 다시 쓴 이유

이번 조정의 중심은 constitution 개정입니다. constitution은 무엇이 보호 대상이고 무엇이 허용인지 규정한 판단 기준 문서인데, Anthropic은 이 문서를 무해한 사용 사례까지 상세히 담아 다시 썼습니다.

개정은 문서에서 끝나지 않았습니다. 다시 쓴 기준에 내부·외부 전문가의 피드백을 받고, 그 기준을 반영한 학습 데이터를 새로 만들어 생물학 안전 분류기를 재훈련했습니다. 분류기가 배우는 경계의 정의 자체를 바꾼 경로입니다.

문서부터 손댄 이유는 오탐의 성격에 있습니다. 걸리지 말아야 할 질문이 걸렸다는 것은 분류기가 학습한 경계에 무해한 영역이 충분히 그려져 있지 않았다는 뜻이고, 그 경계를 그리는 출발점이 바로 이 기준 문서이기 때문입니다.

오탐은 버그가 아니라 넓게 잡은 임계값의 산물이다

출시 초기의 생물학 분류기는 의도적으로 넓게 걸려 있었습니다. 그래서 일상적인 건강·교육 질문을 던진 사용자들이 여러 차례 폴백을 겪었고, Anthropic도 이 경험을 이번 조정의 출발점으로 지목했습니다.

걸린 요청의 처리 방식이 이 설계를 떠받칩니다. Fable 5는 분류기에 걸린 요청을 Claude Opus 5로 넘겨 처리하고, 사용자에게는 에러 화면 대신 조금 덜 유능한 모델의 답이 돌아갑니다. 실패의 형태를 품질 저하 쪽으로 옮겨 둔 구조입니다.

발표는 제품별 전체 폴백 감소 예상치도 함께 내놨습니다. 생물학 외 범주까지 포함한 수치로 Claude.ai 약 67%, Cowork 약 55%입니다. Claude Code는 약 17%, Claude Platform은 약 7%로 제품마다 폭이 다릅니다.

넓게 걸고 나중에 좁히는 순서를 만드는 비대칭 비용

넓게 걸어 두고 나중에 좁히는 순서는 두 실패의 비용이 대칭이 아니라는 데서 나옵니다. 위험한 요청을 놓치는 쪽의 비용은 되돌릴 수 없고, 무해한 질문을 잘못 잡는 쪽의 비용은 Opus 5의 답으로 제한되기 때문입니다.

놓치는 쪽 비용의 근거로 Anthropic은 미국 정보기관의 2026년 연례 위협 평가를 인용했습니다. 여러 국가 행위자가 공격용 생물·화학 무기 프로그램을 유지하고 있고, 프런티어 AI 모델의 원시 능력에 접근하면 그 프로그램이 가속될 수 있다는 대목입니다.

잘못 잡는 쪽 비용은 폴백 구조가 미리 낮춰 놓았습니다. 거절 화면 대신 Opus 5의 답이 돌아가는 한 오탐의 대가는 품질 저하에 머뭅니다. 그래서 먼저 넓게 걸고, 실제로 걸린 질문을 근거로 기준 문서를 고쳐 좁히는 순서가 성립합니다.

이중용도 영역은 조정 뒤에도 여전히 Opus 5 로 넘어간다

재훈련이 좁힌 것은 오탐 쪽 경계입니다. 바이러스학, 독성학, 분자 설계처럼 이중용도로 분류된 요청은 조정 뒤에도 계속 Opus 5로 폴백되고, Fable 5는 전문 생물학 연구나 신약 개발에는 아직 쓸 수 없습니다.

API에서 분류기 거절은 stop_reason="refusal"로 내려오고, 거절 시 서버가 권장 모델로 재시도를 대신하는 fallbacks 파라미터도 베타로 제공됩니다. 응답 처리와 과금 규칙의 상세는 공식 문서의 stop reason 안내와 fallbacks 안내에 정리돼 있습니다.

앞으로 지켜볼 지점: trusted access pathways 가 격차를 메우나

전문 연구 접근의 격차에 대해 Anthropic이 내놓은 답은 trusted access pathways, 신뢰를 검증한 사용자에게 여는 접근 경로입니다. 이중용도 폴백을 유지한 채 막힌 영역은 검증된 경로로만 열겠다는 구도로, 경계선 운영의 다음 단계를 예고한 대목입니다.

지금 시점의 판단은 이렇습니다. 이번 안전 분류기 조정은 오탐을 크게 줄였지만 경계선을 옮기지는 않았습니다. 이 판단은 바이러스학 같은 이중용도 범주가 계속 Opus 5로 넘어가고 전문 연구가 막혀 있는 동안 유효하며, trusted access pathways가 실제 연구자에게 Fable 5를 열어 주면 뒤집힙니다. 그때는 이번 조정이 경계선 재설계의 첫 단계로 다시 읽힙니다.

지켜볼 지점은 두 가지입니다. 조정 뒤에도 남은 폴백이 얼마나 정상 질문을 잡고 있는지, 그리고 trusted access pathways가 전문 생물학 연구의 문을 실제로 여는지입니다. 열리지 않으면 이번 조정은 폴백 횟수를 줄였을 뿐, Fable 5의 경계선 자체는 그대로 남습니다.

출처: Improving Fable 5's biology safeguards, Refusals and fallback, Handling stop reasons