[전현준 x 테디노트]
핵심 포인트
- 1AI 기술 발전과 함께 개발 패러다임은 AI 모델 자체의 중요성보다 Context Engineering과 AI 에이전트 개발을 위한 Harness 구성으로 변화하고 있습니다.
- 2Context Engineering은 LLM의 KV 캐싱 효율을 위해 이전 Context를 유지하고 파일 시스템을 활용하여 대량 데이터를 관리하는 방법을 포함하며, Harness는 모델 성능 최적화를 위한 프레임워크 및 환경의 중요성을 강조합니다.
- 3Claude Code와 같은 Agentic Coding 도구는 개발 생산성을 높이지만, 개발자는 코드 아키텍처 이해와 효율적인 AI 명령을 통해 작업 흐름을 관리하고 품질을 검증하며 Hooks, Commands, Plugins, Sub-agents와 같은 Harness 구성 요소를 활용하는 것이 중요합니다.
본 강연은 인공지능 시대의 개발 패러다임 변화를 다루며, 특히 Context Engineering과 Agentic Coding의 중요성을 강조한다. "변하지 않으면 도태된다"는 주제 아래, AI 도구가 코딩을 용이하게 만들었음에도 불구하고, 프로그래밍 본연의 복잡성(설계, 기획, 소통 등)은 여전히 남아있음을 지적한다.
1. Context Engineering:
Context Engineering은 LLM 기반 Agent 시스템의 핵심 역량으로 제시되며, LangChain의 컨텍스트 처리 다이어그램을 통해 Write, Select, Long-term Memory, Compress, Isolate의 다섯 가지 주요 요소가 설명된다.
- Write & Select: RAG(Retrieval Augmented Generation)와 같은 기존 기술을 통해 정보 작성 및 검색은 비교적 잘 수행되고 있다.
- Long-term Memory: 특히 캐릭터 챗봇과 같은 복잡한 시나리오에서 메모리 관리의 어려움이 강조된다.
- Compress & Isolate: 이 두 가지가 Context Engineering의 핵심으로, 모델의 Context Window 한계를 극복하기 위해 정보를 압축하고 불필요한 것을 버리며, 필요한 Context를 격리하는 기술이다. 격리 방식으로는 상태(State) 저장, 딥 에이전트(Deep Agent) 기반의 샌드박스(Sandbox), 그리고 멀티 에이전트(Multi-agent) 시스템을 통한 작업 위임 등이 언급된다. 이들 개념은 상호 배타적이지 않으며, 적재적소에 통합적으로 사용되어야 한다.
2. Mantis의 Context Engineering 사례:
Mantis는 Context를 파일 시스템(File System)으로 관리하는 독특한 접근 방식을 사용한다.
- Context 제거 지양: 기존 통념과 달리 Mantis는 Context를 제거하지 말 것을 권장한다. 이는 LLM의 어텐션(Attention) 연산과 KV-Cache 활용 때문이다. Context를 삭제하면 이전에 계산된 정보가 유실되어 재연산이 필요해지며, 이는 비용 증가와 응답 속도 저하로 이어진다. 캐시된 프롬프트는 일반 인풋 프롬프트보다 비용이 저렴하다.
- 파일 시스템 활용: 긴 관찰(Observation) 결과물을 직접 Context에 넣는 대신, "파일 시스템에 있으니 찾아보라"고 지시함으로써 즉각적인 Context Window의 부담을 줄인다. 필요할 때만 해당 정보를 Context로 로드하여 사용한다. Context가 너무 길어질 경우, 요약(Summarization)하여 파일 시스템에 저장하고, 원본은 필요시 참조하도록 한다. 이는
Compress및Isolate전략의 일환이다. - 오답 노트(Error Handling): 잘못된 또는 원치 않는 결과도 Context에 유지하는 것은 중요한 모니터링 지표가 되어 향후 개선의 여지를 제공하며, KV-Cache를 유지하는 이점도 있다.
3. Agentic Coding의 Haneess 개념:
Agentic Coding은 AI 모델을 활용하여 소프트웨어를 개발하는 방식으로, Mantis와 같은 Context Engineering 기법을 통해 구현된다.
- Haneess의 중요성: AI 모델이 엔진이라면, Haneess는 자동차에 비유된다. 모델 자체의 성능(엔진)도 중요하지만, 모델이 최적의 성능을 발휘할 수 있도록 지원하는 환경(Haneess)의 역할이 더욱 강조된다. 런타임(Runtime) 위에 프레임워크(Framework)를 쌓아 올려 Haneess를 구축하는 것이 2026년 AI 에이전트 개발의 주요 과제가 될 것으로 전망된다.
- Haneess 구성 요소:
- 파일 시스템 엑세스 (File System Access): 대량의 Context를 효율적으로 다루는 핵심 기법.
- 서브 에이전트 (Sub-Agent): 특정 작업에 특화된 에이전트를 통해
Isolation을 구현한다. - 라이프 사이클 훅 (Life Cycle Hook): 에이전트의 생명 주기(초기화, 저장, 오류 처리 등) 중 특정 시점에 자동화된 작업을 수행하는 메커니즘. (예:
UserPromptSubmitted,Stop) - (그 외
Human-in-the-Loop,Tool Orchestration,Prompt는 기존에도 중요한 요소로 언급된다.)
4. Claude Code 활용 사례 및 팁:
- CLI 도구로서의 Claude Code: 사용자가 명령을 내리면 AI가 코드를 생성하고 실행하는 Agentic Coding의 대표적인 도구로 제시된다. 중요한 것은 AI가 생성한 코드에 대한 최종 책임은 사용자에게 있으며, 코드의 유지보수 및 검증이 필요하다.
- Claude Code의 강점: 모델 자체의 성능뿐만 아니라, 엔트로픽(Anthropic)이 모델과 Haneess를 함께 개발하여 최적화된 시너지를 낼 수 있다는 점이 강조된다. (OpenAI의 Codex와도 비교되며, 둘을 동시에 활용하여 코드의 품질을 비교하고 개선하는 방식이 제안된다.)
- 공식 문서 활용: Claude Code의 공식 문서는 훅(Hooks), 커맨드(Commands), 플러그인(Plugins), 서브 에이전트(Sub-Agents)와 같은 핵심 개념을 이해하는 데 필수적이다.
- Hooks: Claude Code가 내부적으로 실행되는 다양한 단계(이벤트)에 개입하여 특정 작업을 수행할 수 있게 하는 기능. (예:
UserPromptSubmitted에서 API 키 누출 방지,Stop훅에서 코드 포매팅/린팅 자동화) - Commands: 사용자가 명시적으로 특정 기능을 발동시키는 명령어. (예: 코드 리뷰, 플래닝)
- Plugins:
Skills와MCP가 통합된 개념으로, 에이전트가 동적으로 사용할 수 있는 기능을 제공한다. - Sub-Agents: 특정 작업에 특화된 에이전트로, 최근에는 Skills 호출 기능이 추가되어 유연성이 증대되었다.
- Hooks: Claude Code가 내부적으로 실행되는 다양한 단계(이벤트)에 개입하여 특정 작업을 수행할 수 있게 하는 기능. (예:
- 실용적 팁:
Auto Compact기능은 아직 초기 단계이므로 끄고 수동 컴팩트 또는 클리어(Clear)를 권장한다.Stop훅을 활용하여 Context 사이즈가 일정 수준을 초과할 경우 경고를 주고, 마크다운(Markdown)으로 핵심 작업을 저장하여 Context를 관리할 수 있다.- 서브 에이전트 및 툴의 이름과 설명(
name및description)을 정확하고 명확하게 정의하는 것이 매우 중요하다.
종합적으로, 본 강연은 AI 모델 자체를 넘어선 AI 에이전트 시스템의 설계와 운영(Agent Ops)의 중요성을 역설하며, 특히 Context Engineering과 Haneess 구축을 위한 구체적인 기술적 접근 방안을 제시한다. 궁극적으로는 AI 도구를 효과적으로 활용하여 개발 생산성을 극대화하기 위해, 개발자 스스로가 코드 아키텍처 및 디자인 패턴에 대한 이해를 높이는 것이 여전히 중요하다고 강조한다.