오픈AI(OpenAI)는 차세대 인공지능 모델 '아스트라(Astra)'가 자체 '프리페어드니스 프레임워크(Preparedness Framework)' 평가에서 최고 위험 단계인 '크리티컬(Critical)' 등급을 획득했다고 발표했습니다. 이는 AI가 인간의 직접적인 지시 없이도 제로데이(Zero-day) 취약점을 스스로 탐색하고 공격 체인(Attack Chain)을 구축할 수 있는 수준에 도달했음을 의미합니다.

핵심 평가 방법론 및 기술적 역량
아스트라는 고도화된 사이버 공격 능력을 평가하는 '익스플로잇벤치(ExploitBench)'에서 100%의 성과를 기록하며 기존 모델인 'GPT-5.6 Sol' 대비 뛰어난 성능을 입증했습니다.

1. 제로데이 취약점 탐색 및 공격 체인 구축: 아스트라는 외부 도구와 시스템 접근 권한을 활용해 기존에 알려지지 않은 2개의 제로데이 취약점을 식별했습니다. 이후 이를 결합하여 보안이 강화된 브라우저의 샌드박스(Sandbox) 환경을 탈출하고, 호스트 시스템에서의 임의 코드 실행(Arbitrary Code Execution)을 성공시켰습니다.
2. 권한 상승(Privilege Escalation) 기법: 운영체제 수준에서 다중 취약점을 연쇄적으로 활용하여 일반 사용자 권한을 시스템 관리자 권한인 '루트(Root)'로 상승시키는 복합 공격 시나리오를 수행했습니다.
3. 효율적 코드 실행: 아스트라는 이전 세대 모델보다 적은 출력 토큰(Output Token)을 사용하면서도 더 높은 임의 코드 실행 성공률을 보였는데, 이는 AI 모델이 추론 과정에서 불필요한 연산을 줄이고 최적화된 공격 전략을 도출함을 시사합니다.
4. 사이버 탈옥(Cyber Jailbreak) 방어: 악의적인 공격 요청에 대한 거부 능력은 91.5%로 측정되어, 이전 모델의 59% 대비 32.5%p 향상된 견고성을 확보했습니다.

안전 통제 및 대응 전략
'크리티컬' 판정에 따라 오픈AI는 모델의 안전장치가 확보될 때까지 개발 및 출시 속도를 조절하는 조치를 단행했습니다.

• 훈련 중단 및 재개: 허깅페이스(Hugging Face) 관련 사고 이후 최첨단 모델 훈련을 2주간 중단했으며, 강화된 안전 기준을 적용하여 대규모 강화학습(Reinforcement Learning) 훈련을 재개했습니다.
• 점진적 배포: 아스트라의 고급 사이버보안 기능은 일반 공개 대신 소수 이용자를 대상으로 우선 개방됩니다. 이후 '데이브레이크 블루(Daybreak Blue)'라는 방어 목적의 제한적 제공 방식을 통해 점진적으로 서비스 범위를 확대할 예정입니다.

오픈AI는 모델의 능력이 고도화될수록 정렬(Alignment)과 통제 실패 시의 잠재적 위험이 기하급수적으로 커진다고 강조하며, 적절한 보호 조치가 병행되지 않는다면 개발 속도를 늦추는 것이 필수적이라는 입장을 밝혔습니다.