METR 6명에게 '직원급 접근' — Anthropic, AI 안전 감독에 은행 검사관 모델을 도입하다
AI

METR 6명에게 '직원급 접근' — Anthropic, AI 안전 감독에 은행 검사관 모델을 도입하다

zaq · · 5 min read

Anthropic이 프론티어 AI 안전 평가 비영리단체 METR 직원 6명에게 사내 직원과 맞먹는 접근 권한을 부여했습니다. 회사 하드웨어, 사무 공간, 자체 리스크 평가팀과 맞먹는 내부 도구·시스템 접근까지 — 그리고 Anthropic은 METR의 출판을 거부권으로 막을 수 없습니다.

한마디로 말하면, 금융권의 상주 검사관(resident examiner) 모델을 AI 산업에 이식한 것으로, 독립 평가자를 3단계 접근 티어 체계로 운영하겠다고 공개한 안전 거버넌스 업데이트입니다.

METR 임베딩 — '직원급 접근'의 실제 조건

지난달 액센처 임베디드 평가 파트너십 발표 때는 구조가 개략적이었는데, 이번 업데이트가 실질을 드러냅니다. METR 6명은 회사 하드웨어·오피스·내부 도구를 지급받았고, 소수의 예외(고객 데이터, 변호사-의뢰인 특권 정보, 모델 아키텍처)를 제외하면 동료 직원처럼 정보를 공유하도록 권장됩니다. 핵심 조항은 출판 권한입니다 — METR는 리스크 수준·사고·관행 분석을 공개하며, Anthropic은 게시를 막을 수 없습니다. 지정된 좁은 범주의 레닥션(가림 처리)만 요구할 수 있고, METR는 그 레닥션이 정당했는지 공개적으로 평가할 자유까지 갖습니다. 참여는 소수 팀으로 한정되고 강제적 계약 하에 운영되며, 다른 METR 직원들과는 사일로(silo)로 분리됩니다.

3단계 티어 — 신뢰가 쌓이면 접근도 깊어진다

평가자 접근은 계층화됩니다. 티어 1은 협소한 리스크 조사 — 접근 범위는 Anthropic이 정하고, 출판은 승인제입니다. SecureBio가 현재 티어 1로, 2월 파일럿 리뷰에 이어 8월 리스크 리포트의 화학·생물무기 장을 검토 중입니다. 티어 2는 승인 없는 출판과 더 넓은 접근 — 특정 정보 삭제는 요구할 수 있지만 평가자가 그 정당성을 공개 논평할 수 있습니다. 티어 3가 METR의 현재 위치이며, 장기적으로 티어 3 평가자 여럿이 각자 리스크 포스처 분석을 발표하는 구조를 목표로 합니다. 액센처·Faculty와는 평가·레드팀·정렬 평가·안전장치 테스트·역량 구축을 포함한 야심찬 파트너십으로 진행 중이고, Hugging Face를 포함한 다른 기관과도 초기 논의 중입니다.

은행 감독 아날로지 — 왜 검사관이 내부에 상주하는가

Anthropic이 드는 비유는 금융 감독입니다. 은행은 자기 리스크 포지션을 외부인보다 잘 알기에, 규제기관은 최대 은행들에 상주 검사관을 배치합니다 — "은행의 리스크 테이킹이 대중을 위협할 수 있다면, 제3자가 사전에 그것을 보려 한다." 프론티어 모델 평가에 필요한 네 조건도 제시합니다: 정렬 위장(alignment faking) 같은 평가 실패 모드를 아는 전문성, 지분·재정 의존이 없는 독립성, 훈련 방식과 안전장치 작동까지 보는 접근성, 그리고 출판의 자유.

실전에서 어떻게 볼까?

이번 주 Anthropic의 정책 스택을 놓고 보면 그림이 완성됩니다. LSVP·CVP(검증된 접근), 사용 정책 업데이트(규칙 명문화), 사이버 미션(방어자 지원), 그리고 이번 독립 평가자 체계(외부 감사) — 접근·규칙·지원·감사의 4축이 하나의 거버넌스 아키텍처로 정리됐습니다. 실전 포인트는 둘입니다. METR의 첫 공개 분석(리스크 수준·사고 대응 평가)이 언제 나오는지, 그리고 레닥션 논쟁이 실제로 발생하는지 — 자율 임베딩 모델의 신뢰도는 그 순간에 판가름 납니다.

마무리로 — "기업이 자발적으로 감시자를 받아들이는" 구조의 최대 리스크는 상징에 머무는 것입니다. Anthropic은 출판 거부권 포기와 3단계 로드맵으로 상징을 넘으려 하고 있습니다. 다른 프론티어 랩이 이 표준을 따라오는가 — 그것이 AI 거버넌스의 다음 경쟁 지점입니다.

출처: https://www.anthropic.com/news/an-update-on-independent-evaluators

태그: AI, Claude, Anthropic