이 문서는 Anthropic의 CEO인 Dario Amodei가 작성한 글로, 오픈 웨이트(open-weights) 모델에 대한 Anthropic의 공식적인 입장을 밝히고 국가 안보 위협에 대응하기 위한 구체적인 정책적 제언을 담고 있습니다.

핵심 주장 및 배경

Dario Amodei는 Anthropic이 오픈 웨이트 모델에 대한 전면적인 금지를 옹호한 적이 없음을 명확히 합니다. 그는 오픈 웨이트 모델 중 위험한 능력을 갖추지 않은 모델은 공공재로서 가치가 크다고 평가합니다. 저자가 우려하는 진정한 국가 안보 위협은 다음 두 가지입니다.

1. 권위주의 정부의 위협: 중국과 같은 국가가 미국보다 강력한 AI 모델을 구축하여 군사적 우위를 점하거나 자국민 탄압에 악용하는 경우.
2. AI 오남용 및 정렬 문제: 강력한 AI 모델이 사이버 공격이나 생물학적 무기 개발에 악용되거나, 제어 불가능한 정렬(alignment) 문제를 일으키는 경우.

제안된 정책 및 방법론

저자는 오픈 웨이트 모델 자체를 금지하는 대신, 다음과 같은 세 가지 실질적 대응 방안을 제시합니다.

1. 고성능 칩 및 장비 수출 통제: 중국의 국내 반도체 생산 능력이 제한적인 상황에서, Scaling Laws에 따라 모델의 성능은 가용 컴퓨팅 자원에 의존합니다. 따라서 첨단 AI 칩과 칩 제조 장비의 중국 반입을 차단하는 것이 가장 효율적인 억제책이라고 주장합니다.
2. 산업 규모의 증류(distillation) 작업 단속: 증류는 컴퓨팅 자원을 절약하면서 성능을 최적화하는 기법으로, 중국이 하드웨어 제약을 우회하여 미국과의 frontier 격차를 수개월 이내로 좁히게 만듭니다. 저자는 이를 단순한 오픈 웨이트 배포 문제가 아닌, 권위주의 국가의 전략적 기동으로 간주하고 이를 억제할 법적·상업적 프레임워크가 필요하다고 강조합니다.
3. 모델의 등급별 필수 안전성 테스트: 모든 유의미한 성능을 가진 모델은 개방형 여부와 관계없이 사이버, 생물학적 위험 및 정렬 문제에 대한 사전 테스트를 의무화해야 합니다. 특히 생물학적 공격의 경우 Attacker-Defender Asymmetry가 존재하여, 공격자는 모델을 통해 쉽게 병원균을 무기화할 수 있는 반면 방어는 수년이 걸리는 난제임을 지적하며, 이를 실증적인 테스트를 통해 검증해야 한다고 주장합니다.

결론

Dario Amodei는 오픈 소스 생태계의 경쟁력과 접근성을 인정하면서도, 국가 안보를 저해하는 핵심 요소인 '컴퓨팅 자원 접근성'과 '무분별한 고성능 모델 배포'를 통제하기 위해 기술적 증거에 기반한 글로벌 규제 기준을 마련해야 한다고 결론짓습니다. 즉, 특정 모델의 개방 여부를 규제하는 것이 아니라, AI 역량의 위험성에 기반한 관리 체계를 구축하는 것이 핵심입니다.