Retrieval as Reasoning - LLM Wiki가 RAG보다 나은 이유에 대한 | GeekNews
Blog

Retrieval as Reasoning - LLM Wiki가 RAG보다 나은 이유에 대한 | GeekNews

alfadur
2026.08.05
·Web·by Leon
#Agent#Information Retrieval#LLM Wiki#RAG#Reasoning

핵심 포인트

  • 1본 논문은 기존 RAG의 파편화된 청크 검색 한계를 극복하기 위해, 문서를 양방향 링크로 연결된 위키 구조로 변환하여 에이전트가 이를 순회하며 추론하는 'LLM Wiki' 방식을 제안합니다.
  • 2벤치마크 결과, 검색 과정을 단순 조각 추출이 아닌 지식 탐색과 추론 과정으로 접근한 LLM Wiki가 멀티홉(Multi-hop) 질문에서 기준 모델들보다 우수한 성능을 입증했습니다.
  • 3특히 에이전트가 링크를 따라가며 정보를 능동적으로 수집하는 '순회(Traversal)' 메커니즘이 구조 구축이나 오류 수정보다 모델의 응답 정확도 향상에 훨씬 더 결정적인 역할을 하는 것으로 나타났습니다.

본 논문은 기존의 RAG (Retrieval-Augmented Generation)가 가진 근본적인 한계인 ‘정보 조각화(Chunking)’로 인한 문맥 손실 문제를 지적하고, 이를 해결하기 위한 대안으로 LLM Wiki 기반의 추론 방식인 'Retrieval as Reasoning'을 제시합니다.

1. 문제 제기: RAG의 근본적 한계

전통적인 RAG는 문서를 작은 단위의 Chunk로 분할하여 벡터 유사도에 기반해 검색합니다. 이 방식은 다음과 같은 치명적인 단점이 있습니다.
  • 멀티홉(Multi-hop) 질문 취약성: 여러 문서에 걸쳐 있는 정보를 종합해야 하는 질문의 경우, 파편화된 조각들 사이의 관계 정보가 소실되어 정확한 답변이 불가능합니다.
  • 관계성 부재: 문서를 단순 조각으로 분리함으로써 정보 간의 구조적 맥락이 제거됩니다.

2. 핵심 방법론: LLM Wiki 및 추론형 검색

논문은 검색을 단순한 데이터 추출이 아닌 '추론(Reasoning)' 과정으로 정의합니다. 정보를 위키(Wiki) 형태로 조직화하고 에이전트가 이를 순회(Navigation)하며 답을 찾아갑니다.

  • 컴파일(Compile): 원문서를 상호 링크가 포함된 마크다운 위키 페이지 구조로 변환합니다. 검색의 단위가 고정된 크기의 Chunk가 아닌 의미론적 단위인 '페이지'가 됩니다.
  • 추론 도구(Tools): 에이전트는 세 가지 표준 도구를 사용하여 능동적으로 지식을 탐색합니다.
    1. Search: 초기 정보 탐색을 위한 검색.
    2. Read: 현재 페이지의 정보를 독해.
    3. Link: 하이퍼링크를 따라 관련 정보로 이동.
  • Error Book: 위키 내부의 구조적 오류나 의미론적 불일치를 에이전트가 스스로 수정하며 지식을 자가 진화(Self-evolution)시킵니다.
  • 읽기 사다리(GROUND Ladder): 에이전트가 정보를 탐색할 때 필요한 근거 수준에 따라 의존성 → 인덱스 → 링크 → 콘텐츠 → 전체 위키 순으로 읽기 범위를 확장하는 지능적 메커니즘입니다.

3. 실증적 벤치마크 및 Ablation 연구

멀티홉 QA(HotpotQA, MuSiQue, 2Wiki) 벤치마크 결과, 기준 모델 대비 2.0~8.1 F1 높은 성능을 기록했습니다. 연구팀은 성능에 기여하는 요소를 파악하기 위해 제거 실험(Ablation Study)을 수행했습니다.

성능 하락폭(F1 Loss)은 다음과 같습니다:

  1. 순회(Navigation) 제거: −11.7/−13.8/−12.2-11.7 / -13.8 / -12.2 (가장 치명적)
  2. 위키 구조 제거: −6.1/−7.0/−6.7-6.1 / -7.0 / -6.7
  3. Error Book 제거: −3.8/−4.0/−3.4-3.8 / -4.0 / -3.4

이 결과는 단순한 검색보다 '순회(Navigation)'를 통해 정보를 재구성하는 과정이 정보 품질보다 두 배 이상 중요함을 시사합니다.

4. 결론 및 의의

본 연구는 고정된 벡터 검색 방식에서 벗어나, 에이전트가 위키 구조를 따라 능동적으로 정보를 연결하는 방식이 복잡한 추론 질문 해결에 훨씬 효과적임을 증명했습니다. RAG의 성능 고착화 문제를 '문서 쪼개기'의 정교함이 아닌 '검색 후 추론 과정의 강화'라는 패러다임 전환을 통해 해결했다는 점이 핵심입니다.