Service
GitHub - fivetaku/insane-search: Auto-bypass for blocked websites in Claude Code — Phase 0→3 adaptive scheduler, no API keys
fivetaku
2026.06.29
·GitHub·by Leon#AI Plugin#Automation#Bypass#Claude Code#Web Scraping
핵심 포인트
- 1insane-search는 Claude Code에서 웹 접근 차단을 우회하여 공개된 콘텐츠를 읽어올 수 있도록 돕는 탄력적인 퍼블릭 페이지 리더 플러그인입니다.
- 2이 도구는 공개 API, TLS impersonation, Headless Browser 등 다단계 전략을 순차적으로 사용하여 별도의 API 키나 로그인 없이도 차단된 사이트의 정보를 추출합니다.
- 3사용자 인증이 필요한 영역은 우회하지 않고 인증 요청을 정확히 보고하며, 공개된 웹 정보에만 접근하여 안전하고 효율적인 데이터 수집을 지원합니다.
insane-search은 Claude Code의 기본 Fetcher가 겪는 웹 접근성 제약(403 Forbidden, WAF 차단, CAPTCHA 등)을 해결하기 위해 설계된 강력한 플러그인입니다. API 키나 사전 설정 없이도 퍼블릭 콘텐츠에 대한 접근성을 극대화하며, 사용자에게는 별도의 명령어 학습 없이 자연스러운 검색 경험을 제공합니다.
핵심 메커니즘: 4단계 적응형 스케줄러 (Phase 0-3)
이 플러그인의 핵심은 요청이 차단되었을 때 단순히 포기하는 것이 아니라, 성공할 때까지 다음 단계로 단계적으로 에스컬레이션(escalation)하는 지능형 스케줄러입니다.- Phase 0 (Special Endpoints): 플랫폼별 전용 공개 API나 RSS, 피드 등 특정 환경에서만 작동하는 경로를 우선 시도합니다.
- Phase 1 (Lightweight Probes): Syndication Gateway, 모바일 전용 URL 변환,
.json이나/rss와 같은 URL 변형을 통해 가벼운 프로빙을 수행합니다. - Phase 2 (TLS Impersonation):
curl_cffi를 활용하여 Safari, Chrome, Firefox 등의 실질적인 브라우저 TLS 지문(fingerprint)을 모방합니다. 단순한 User-Agent 교체가 아닌, 쿠키 워밍(cookie warming)과 리퍼러 체인(referer chain)을 포함한 완전한 브라우저 아이덴티티를 구축합니다. - Phase 3 (Headless Browser): 위 단계가 모두 실패할 경우, 실제 Headless Browser를 가동합니다. 이 과정에서 사이트가 내부적으로 호출하는 JSON API를 추적하여 구조화된 데이터를 추출합니다.
기술적 특징 및 차별점
- 자동화된 설치:
yt-dlp,curl_cffi등 필요한 도구를 첫 실행 시 자동으로 설치하여 Zero-setup 환경을 지원합니다. - 메타데이터 추출: 페이지 전체가 렌더링되지 않더라도 OGP(Open Graph Protocol) 및 JSON-LD를 스캔하여 텍스트, 가격, 요약 정보 등을 추출합니다.
- 윤리적 경계: 인증이 필요한 로그인 벽(Login wall)이나 유료 결제 벽(Paywall)을 우회하려 시도하지 않습니다. 해당 콘텐츠를 감지하면 즉시 "authentication required"를 반환하여, 철저히 공개된 퍼블릭 콘텐츠 접근에 초점을 맞춥니다.
- 플랫폼 지원: X, Reddit, YouTube, Medium, arXiv 등 다양한 플랫폼을 지원하며, 1,800개 이상의 미디어 사이트에서 자막 및 메타데이터를 추출합니다.
결론적으로 insane-search는 인간의 브라우징 패턴을 정교하게 에뮬레이션하고 다양한 공개 경로를 동적으로 탐색함으로써, Claude Code가 가진 정보 수집 능력의 한계를 비약적으로 향상시키는 확장 도구입니다.