Graph RAG (Graph Retrieval-Augmented Generation, 그래프 RAG)

일반 벡터 RAG
  질문 ──> 임베딩 ──> 비슷한 청크 Top-k ──> LLM ──> 답

Graph RAG
  질문 ──> 관련 엔티티/커뮤니티 찾기 ──> 그래프 탐색·요약 수집 ──> LLM ──> 답
                    ▲
       (미리) 문서 ──> 엔티티·관계 추출 ──> 지식 그래프

문서 A: "박지훈은 알파테크의 CTO다."
문서 B: "알파테크는 2023년 베타랩스에 인수되었다."
문서 C: "베타랩스의 본사는 판교에 있다."

질문: "박지훈이 지금 다니는 회사의 모회사 본사는 어디인가?"

질문: "이 회사 고객 상담 기록 10만 건에서 가장 큰 불만 주제는 무엇인가?"
질문: "이 데이터셋의 주요 주제는 무엇인가?"

 원본 문서
    │
    ▼
┌──────────────────────┐
│ 1. 텍스트 유닛 분할   │  문서를 일정 토큰 크기 청크로 나눈다
└──────────┬───────────┘
           ▼
┌──────────────────────┐
│ 2. 엔티티·관계 추출   │  청크마다 LLM 호출
│    (+ 선택: claim)    │  → (이름, 유형, 설명), (출발, 도착, 설명, 강도)
└──────────┬───────────┘
           ▼
┌──────────────────────┐
│ 3. 그래프 병합·요약   │  같은 이름의 엔티티를 합치고
│                      │  여러 청크에서 나온 설명을 LLM으로 한 문단 요약
└──────────┬───────────┘
           ▼
┌──────────────────────┐
│ 4. Leiden 커뮤니티    │  그래프를 계층적 클러스터로 분할
│    탐지 (계층적)      │  Level 0(큰 묶음) → Level 1 → Level 2(작은 묶음)
└──────────┬───────────┘
           ▼
┌──────────────────────┐
│ 5. 커뮤니티 보고서    │  커뮤니티마다 LLM이 보고서 작성
│    생성              │  (제목, 요약, 주요 발견, 중요도)
└──────────┬───────────┘
           ▼
┌──────────────────────┐
│ 6. 임베딩            │  엔티티 설명, 텍스트 유닛, 보고서를 임베딩
└──────────────────────┘
   결과물: 엔티티 / 관계 / 텍스트 유닛 / 커뮤니티 / 커뮤니티 보고서 테이블

텍스트 유닛: "알파테크는 2023년 베타랩스에 인수되었다. 인수 후 박지훈 CTO는
             베타랩스 AI 조직을 함께 맡게 되었다."

추출 결과:
  엔티티  (알파테크, ORGANIZATION, "2023년 베타랩스에 인수된 회사")
          (베타랩스, ORGANIZATION, "알파테크를 인수한 회사")
          (박지훈,   PERSON,       "알파테크 CTO, 베타랩스 AI 조직 겸임")
  관계    (베타랩스 → 알파테크, "2023년 인수", 강도 9)
          (박지훈 → 베타랩스,   "AI 조직을 맡음", 강도 7)

Level 0 (거친 단위)        Level 1 (세부 단위)
┌──────────────────┐       ┌────────┐ ┌────────┐
│ 인수합병 생태계   │  ──>  │ 베타랩스│ │ 알파테크│
│                  │       │ 계열    │ │ 인력    │
└──────────────────┘       └────────┘ └────────┘
┌──────────────────┐       ┌────────┐ ┌────────┐
│ 규제·소송        │  ──>  │ 공정위  │ │ 특허    │
└──────────────────┘       └────────┘ └────────┘

질문: "박지훈은 어떤 일을 맡고 있나?"
   │
   ▼
① 질문 임베딩 ↔ 엔티티 설명 임베딩 → 시작 엔티티: [박지훈]
   │
   ▼
② 주변으로 펼치기
   ├─ 연결된 엔티티:  알파테크, 베타랩스
   ├─ 관계 설명:      "CTO", "AI 조직을 맡음"
   ├─ 원문 텍스트 유닛: 박지훈이 언급된 청크
   └─ 소속 커뮤니티 보고서: #12
   │
   ▼
③ 우선순위대로 컨텍스트 창에 채움 → LLM 답변

질문: "이 데이터셋의 주요 주제는?"
   │
   ▼
선택한 레벨의 커뮤니티 보고서 전체 (예: 200개)
   │
   ├── Map ─────────────────────────────────────────┐
   │   보고서 묶음 1 ──> LLM ──> 부분 답 + 점수 85  │
   │   보고서 묶음 2 ──> LLM ──> 부분 답 + 점수 40  │  병렬
   │   ...                                          │
   │   보고서 묶음 N ──> LLM ──> 부분 답 + 점수 0   │
   └────────────────────────────────────────────────┘
   │
   ▼  Reduce
점수 높은 부분 답부터 컨텍스트 한도까지 모음 ──> LLM ──> 최종 답

질문
  │
  ▼
① Primer: 관련 커뮤니티 보고서로 넓은 첫 답 + 후속 질문 여러 개 생성
  │
  ▼
② Follow-up: 후속 질문마다 Local Search 실행 → 중간 답 + 새 후속 질문
  │            (정해진 깊이만큼 반복)
  ▼
③ 중간 답들을 모아 최종 답

import networkx as nx

EXTRACT = """다음 텍스트에서 엔티티(이름, 유형, 설명)와
관계(출발, 도착, 설명, 강도 1~10)를 JSON으로 뽑아라.
텍스트: {chunk}"""

def build_graph(chunks, llm) -> nx.Graph:
    g = nx.Graph()
    for chunk in chunks:                      # 청크마다 LLM 호출 → 비용의 주범
        out = llm.json(EXTRACT.format(chunk=chunk))
        for e in out["entities"]:
            g.add_node(e["name"].upper(), type=e["type"])
            g.nodes[e["name"].upper()].setdefault("desc", []).append(e["desc"])
        for r in out["relations"]:
            g.add_edge(r["src"].upper(), r["dst"].upper(),
                       desc=r["desc"], weight=r["strength"])
    return g

def communities(g):
    # 실제 GraphRAG는 계층적 Leiden. 여기선 networkx의 Louvain으로 대신한다.
    return nx.community.louvain_communities(g, weight="weight", seed=42)

def global_search(question, reports, llm):
    partials = []
    for r in reports:                                         # map
        ans = llm.json(f"보고서: {r}\n질문: {question}\n"
                       "답과 도움 점수(0~100)를 JSON으로.")
        if ans["score"] > 0:
            partials.append(ans)
    partials.sort(key=lambda a: a["score"], reverse=True)
    context = "\n".join(a["answer"] for a in partials[:20])   # reduce
    return llm.text(f"부분 답들:\n{context}\n\n질문: {question}\n최종 답:")

벡터 RAG 인덱싱                    GraphRAG 인덱싱
───────────────                    ─────────────────────────────
청크 N개 × 임베딩 호출              청크 N개 × LLM 추출 호출
(임베딩은 싸다)                    + 엔티티/관계 설명 요약 LLM 호출
                                   + 커뮤니티 수 × 보고서 LLM 호출
                                   + 임베딩

인덱싱: 청크 → LLM으로 엔티티·관계 추출 → 그래프
        + 엔티티·관계마다 키-값(키워드 → 설명) 프로파일 생성 → 벡터 색인

질의:   질문 → LLM으로 키워드 두 종류 추출
          ├─ 저수준 키워드 (구체적 엔티티: "박지훈", "알파테크")
          │     → 엔티티 노드와 그 이웃 검색        ← Low-level retrieval
          └─ 고수준 키워드 (주제: "AI 인수 전략")
                → 관계/주제 단위 검색              ← High-level retrieval
        → 둘을 합쳐 컨텍스트 구성 → LLM 답변

질문: "스탠퍼드 교수 중 알츠하이머를 연구하는 사람은?"
  │
  ▼
① 질문에서 핵심 개념 추출 → [스탠퍼드], [알츠하이머]
② 그래프에서 해당 노드를 시드(seed)로 PPR 실행
     시드에서 출발해 무작위로 걷다가 일정 확률로 시드로 돌아옴
     → 두 시드 모두에서 가까운 노드의 점수가 높아짐
③ 노드 점수를 그 노드가 나온 문단 점수로 바꿔 Top-k 문단 반환