미국 인공지능(AI) 기업 앤트로픽(Anthropic)은 전 세계 AI 개발 연구소들에게 AI 개발 속도를 늦추는 방안을 검토할 것을 촉구했다. 이는 인공지능 시스템이 조만간 인간의 개입 없이 스스로 모델을 설계하고 개발하는 '재귀적 자기 개선(recursive self-improvement)' 단계에 도달할 수 있다는 우려 때문이다.

앤트로픽은 비록 현재 재귀적 자기 개선 단계에 도달하지 않았고 필연적인 것도 아니지만, "대부분의 기관이 준비한 것보다 더 이른 시점에 도달할 수 있다"고 경고했다. 이러한 발전은 과학 및 의료 분야에 엄청난 이점을 가져올 수 있음과 동시에, 인간이 인공지능 시스템에 대한 통제력을 상실할 위험을 증가시킨다고 지적했다.

핵심적인 제안이자 "방법론"은 재귀적 자기 개선의 영향력에 대처할 시간을 확보하기 위해 기술 개발 속도를 늦추는 것이다. 이를 위해 앤트로픽은 구체적으로 다수의 연구소가 동일한 조건 하에 개발을 일시 중단하는 것에 동의하고, 각 연구소가 다른 연구소의 실제 개발 중단 여부를 검증할 수 있는 체제가 필요하다고 제안했다.

앤트로픽은 이러한 조약 체결이 불가능하지 않다는 점을 강조하며, 냉전 시대인 1987년 미국과 소련이 맺었던 중거리핵전력조약(INF Treaty)을 유사 사례로 언급했다. 이 조약은 특정 사거리의 지상 발사형 탄도·순항 미사일의 생산, 실험, 배치를 전면 금지하는 내용을 담고 있었다. 그러나 앤트로픽은 INF 조약과 달리 "인프라와 신뢰를 구축하는 데 수십 년이 걸렸지만 우리에겐 그럴 시간이 없다"고 지적하며 긴급성을 강조했다.

향후 앤트로픽은 정책 입안자와 시민사회 등과 함께 완전한 재귀적 자기 개선 조정 등을 논의하는 조직을 구성할 예정이라고 밝혔다.