Code And Let Live

Kurt Mackey의 "The state of the art in agent isolation is a read-only sandbox. At Fly.io, we’ve been selling that story for years, and we’re calling it: ephemeral sandboxes are obsolete."는 현재 AI 에이전트(agents)를 위한 고립 환경(isolation environment)인 일시적(ephemeral)이고 읽기 전용(read-only)의 샌드박스(sandbox)가 구식이며 비효율적이라고 주장한다. 저자는 AI 에이전트가 "컴퓨터(computer)"와 같은 환경, 즉 영구적인 저장소와 지속성을 가진 환경을 필요로 한다고 역설하며, 이를 위해 Fly.io에서 개발한 "Sprites"를 새로운 컴퓨팅 패러다임으로 제안한다.

핵심 방법론 (Core Methodology): Sprites

Sprites는 전통적인 컨테이너(container)나 가상 머신(VM)과 달리, AI 에이전트의 워크로드(workload)에 최적화된 새로운 유형의 "일회용 클라우드 컴퓨터(disposable cloud computers)"이다. 이 시스템은 다음과 같은 주요 특징과 기술적 구현을 통해 기존 샌드박스의 한계를 극복한다.

1. 초고속 생성 및 완전한 Linux 환경:

• 사용자는 sprite create . 명령을 통해 1~2초 만에 루트 셸(root shell)에 접근할 수 있는 완전한 Linux 컴퓨터를 생성할 수 있다. 이는 기존 EC2 인스턴스(instance) 생성 시간보다 훨씬 빠르며, SSH 접속 시간에 비견된다.
• 각 Sprite는 독립적인 컴퓨팅 유닛(computing unit)으로 동작하여, 사용자는 수백 개의 Sprites를 동시에 생성하고 관리할 수 있다.

1. 영구성(Durability) 및 지속성(Persistence):

• 기존의 일시적 샌드박스와 달리, Sprite는 작업이 완료된 후에도 사라지지 않고 영구적으로 유지된다. 기본적으로 100GB의 영구 저장 공간을 제공하며, 사용자가 명시적으로 삭제하지 않는 한 데이터와 환경 설정이 보존된다.
• 이는 에이전트가 node_modules와 같은 의존성(dependency)을 매번 다시 빌드(rebuild)할 필요 없이, 이전에 설정된 환경을 즉시 활용할 수 있게 한다.

1. 자동 유휴(Idle) 및 과금 중지:

• Sprite는 사용자 활동이 없을 경우 자동으로 유휴 상태로 전환되며, 이 시점부터 과금이 중지된다. 이는 많은 수의 Sprite를 저렴하게 유지할 수 있게 하여, "방치형" 개발 및 운영 환경을 가능하게 한다.

1. 체크포인트(Checkpoint) 및 복원(Restore) 기능:

• Sprites는 시스템 전체의 상태를 스냅샷(snapshot)으로 저장하는 sprite-env checkpoints create 기능을 제공한다. 이 체크포인트는 거의 즉시 생성된다.
• sprite checkpoint restore v1 명령을 통해 특정 체크포인트로 약 1초 만에 시스템을 복원할 수 있다. 이는 git과 유사하게 시스템 전체의 버저닝(versioning)을 가능하게 하며, 에이전트가 시스템 손상 시 빠르게 이전 상태로 되돌아가 작업을 재개할 수 있도록 돕는다. 이는 일상적인 작업 흐름의 일부로 사용될 만큼 충분히 빠르다.

1. 네트워크 통합:

• Sprites는 Fly.io의 Anycast 네트워크에 연결되어 HTTPS URL을 통해 외부에서 접근할 수 있다. 이는 에이전트가 생성한 애플리케이션이나 서비스가 즉시 인터넷에 노출될 수 있음을 의미한다.

AI 에이전트(Claude)를 위한 이점:

저자는 AI 에이전트가 stateless container나 read-only sandbox를 원치 않으며, "컴퓨터"와 같이 자유롭게 탐색하고 상태를 영구적으로 유지할 수 있는 환경을 선호한다고 주장한다.

• 지속적인 개발 환경: 에이전트가 특정 PR(Pull Request) 작업 후에도 환경을 재구축할 필요 없이 다음 작업으로 바로 넘어갈 수 있다.
• 내부 상태 관리 용이: 에이전트가 파일 시스템에 직접 데이터를 쓰고 읽을 수 있으므로, S3 버킷(bucket), Redis 서버(server) 또는 RDS 인스턴스(instance)와 같은 외부 인프라를 구축하여 상태를 관리할 필요가 없어진다. 이는 복잡성을 줄이고 개발 효율성을 높인다.
• 긴 작업 시간 지원: 기존 샌드박스의 시간 제한(time limits) 없이 장시간의 컴퓨팅 및 네트워크 작업을 수행할 수 있다. 예를 들어, API 문서 생성과 같이 토큰(token) 처리 시간보다 컴퓨팅 시간이 더 많이 소요되는 작업에 유리하다.
• 전체 애플리케이션 라이프사이클 활용: 에이전트가 생성한 애플리케이션의 로그(log)를 직접 모니터링하고, 예외(exception) 발생 시 이를 감지하여 문제를 해결하는 등, 애플리케이션의 개발-운영 라이프사이클 전반에 걸쳐 개입할 수 있다.

기술적 차이점:

Sprites는 Fly Machines와 관련이 있지만, 중요한 차이점이 있다. Sprites는 완전히 새로운 저장 스택(storage stack)을 사용하며, Fly Machines와 다르게 오케스트레이션(orchestration)된다. 또한, Dockerfile을 사용하지 않는다. 이는 micro-VM 기술을 기반으로 하지만, 특정 워크로드(AI 에이전트)에 최적화된 형태로 패키징(packaging)된 새로운 서비스 모델을 제시한다.

결론:

이 논문은 현재의 AI 에이전트 환경이 안고 있는 근본적인 문제점(일시성, 읽기 전용)을 지적하고, "Sprites"라는 새로운 컴퓨팅 모델을 통해 이를 해결하고자 한다. Sprites는 빠르고, 영구적이며, 경제적이고, 복원력이 뛰어난 특성을 제공하여 AI 에이전트가 진정한 "컴퓨터"처럼 동작하며 소프트웨어 개발 및 운영에 참여할 수 있도록 돕는다. 궁극적으로 저자는 이러한 변화가 소프트웨어 개발 패러다임 자체를 개인 주도적이고 자율적인 방향으로 변화시킬 것이라고 예측한다.