Anthropic CEO "오픈웨이트 모델 금지 안 한다" — 공식 입장 정리
미국 정부가 중국산 오픈웨이트 모델 사용 금지를 검토한다는 소식이 돌면서, Anthropic이 오픈소스를 막으려 한다는 오해가 퍼졌습니다. Dario Amodei CEO가 직접 나서서 이를 명확히 부인했습니다.
한마디로 요약하면
Anthropic은 오픈웨이트 모델 금지를 원한 적이 없습니다. 위험한 능력을 갖지 않은 오픈웨이트 모델은 공공재라고까지 표현했습니다. 대신 진짜 해결해야 할 문제는 따로 있습니다.
진짜 위협은 따로 있다
Amodei가 우려하는 시나리오는 두 가지입니다.
첫째, 권위주의 국가의 AI 군사 패권. 중국이 미국보다 더 강력한 AI 모델을 만들어 영구적인 군사 우위를 점하거나, 국민 대상 감시·탄압에 사용하는 경우입니다. 이건 모델이 오픈웨이트인지 여부와 무관합니다. 가장 위험한 모델은 비밀리에 훈련되어 군부나 정보기관에만 전달되는 형태일 것이라고 봅니다.
둘째, 사이버·생물 공격에 악용. 오픈웨이트 모델은 가드레일 적용이 어렵고, 한 번 공개되면 회수가 불가능해 클로즈드 모델보다 위험이 큽니다. 하지만 미국 기업의 사용을 금지한다고 해서 이 문제가 해결되진 않습니다. 범죄자가 정식 미국 기업일 리가 없으니까요.
Anthropic이 대신 제안하는 3가지
그렇다면 뭘 해야 할까요? Amodei가 명확한 대안 3가지를 제시했습니다.
- 중국에 강력한 칩 수출 금지 — 중국은 자체 칩 생산 능력이 제한적이라, 미국 칩 없이는 스케일링 법칙상 미국보다 강력한 모델을 만들 수 없습니다. 밀수 단속도 강화해야 합니다.
- 산업 규모 디스틸레이션 차단 — 디스틸레이션은 처음부터 훈련하는 것보다 훨씬 적은 컴퓨팅으로 강력한 모델을 만들 수 있게 해줍니다. 중국이 칩 제재를 부분적으로 우회하는 핵심 수단입니다.
- 모든 고성능 모델 대상 의무 안전 테스트 — 오픈이든 클로즈드든, 국가 불문하고 사이버·생물·얼라인먼트 위험을 출시 전에 테스트해야 합니다. 트럼프 행정부도 이 방향으로 움직이고 있고, 업계에서도 합의가 형성되고 있다고 합니다.
왜 이 글이 중요한가
최근 NVIDIA를 비롯한 기술 기업들이 오픈웨이트 모델을 옹호하는 공개 서한에 서명하면서, Anthropic이 반대편에 서 있다는 식의 프레이밍이 퍘졌습니다. Amodei는 이 프레이밍을 명확히 끊어냈습니다.
핵심은 오픈웨이트 모델 자체가 문제가 아니라는 것. 진짜 문제는 권위주의 국가의 군사적 AI 패권과 대량살상무기 악용 가능성이며, 이건 칩 통제와 안전 테스트로 풀어야 합니다.
다만 NVIDIA 서한에 대해서는 일부 동의하지 않는 점도 밝혔습니다. 오픈웨이트가 반드시 안전장치 개발을 쉽게 만들고, 공격자보다 방어자에게 유리할 것이라는 주장에 대해 Amodei는 "적어도 그 반대가 될 가능성도 똑같이 높다"고 반박했습니다. 생물학 무기 같은 분야는 공격-방어 비대칭이 극심해서, 검증된 테스트 없이 낙관하는 건 위험하다는 입장입니다.
마무리
AI 정책 논쟁에서 "오픈소스냐 아니냐"는 이분법으로 접근하면 핵심을 놓치게 됩니다. Amodei의 메시지는 명확합니다. 모델이 열려 있는지 닫혀 있는지가 아니라, 누가 어떤 목적으로 얼마나 강력한 AI를 쓰는지가 진짜 문제라는 거죠.
출처: https://www.anthropic.com/news/position-open-weights-models