벡터 데이터베이스 (Vector Database, 벡터 데이터베이스)

일반 DB:   SELECT * FROM docs WHERE category = '인사'        (일치)
벡터 DB:   이 질문 벡터와 가장 가까운 문서 5개를 찾아라       (유사)

              질문 벡터 q
                  │
                  ▼
   ┌──────────────────────────────┐
   │        벡터 데이터베이스        │
   │  ┌────────────────────────┐  │
   │  │ 벡터 인덱스 (HNSW 등)   │  │  ← 빠른 근사 검색
   │  └────────────────────────┘  │
   │  ┌────────────────────────┐  │
   │  │ 원문, 메타데이터        │  │  ← 부서, 날짜, 권한, 출처
   │  └────────────────────────┘  │
   └──────────────┬───────────────┘
                  ▼
        가장 가까운 청크 k개 + 원문 + 메타데이터

import numpy as np

doc_vecs = np.random.randn(1_000_000, 1024).astype("float32")
doc_vecs /= np.linalg.norm(doc_vecs, axis=1, keepdims=True)
q = doc_vecs[0]

scores = doc_vecs @ q                 # 100만 번 내적
top5 = np.argpartition(-scores, 5)[:5]

질문 1개당 계산량 ≈ 문서 수 × 차원 수

  10만 청크 × 1024차원 ≈ 1억 번 곱셈        → 충분히 빠르다
 1000만 청크 × 1024차원 ≈ 100억 번 곱셈     → 질문마다 이걸 하면 느리다
 + 동시 사용자 수백 명                        → 감당하기 어렵다

Recall@10 = (ANN이 찾은 상위 10개 중 진짜 상위 10개에 속하는 개수) / 10

예) 진짜 상위 10개 중 9개를 찾았다 → Recall@10 = 0.9

정확도(Recall)
  1.0 ┤                    ●───●
      │               ●
      │          ●
      │      ●
      │   ●
      │ ●
      └──────────────────────────── 검색 시간
        (탐색 범위를 늘릴수록 →)

Layer 2 (적은 노드, 긴 연결)   A ─────────────── F
                               │                 │
Layer 1 (중간)                 A ──── C ──── E ── F
                               │      │      │    │
Layer 0 (모든 노드, 짧은 연결) A ─ B ─ C ─ D ─ E ─ F ─ G ─ H

"인사팀 문서 중에서"         → dept = 'hr'
"2025년 이후 개정된 규정만"   → updated_at >= '2025-01-01'
"이 사용자가 볼 수 있는 것만" → acl contains user_group

사후 필터의 함정

  ANN 상위 10개 → [영업, 영업, 개발, 영업, 개발, 영업, 영업, 개발, 영업, 영업]
  조건: dept = 'hr'
  결과: 0개   ← 인사팀 문서가 분명히 있는데도 못 찾음

from qdrant_client import QdrantClient
from qdrant_client.models import (
    Distance, VectorParams, PointStruct, Filter, FieldCondition, MatchValue,
)

client = QdrantClient(":memory:")  # 테스트용 인메모리 모드
client.create_collection(
    "docs", vectors_config=VectorParams(size=1024, distance=Distance.COSINE),
)

client.upsert("docs", points=[
    PointStruct(id=1, vector=vec1, payload={"dept": "hr", "text": "휴가 신청은..."}),
    PointStruct(id=2, vector=vec2, payload={"dept": "sales", "text": "분기 목표는..."}),
])

hits = client.query_points(
    "docs",
    query=query_vec,
    query_filter=Filter(must=[FieldCondition(key="dept", match=MatchValue(value="hr"))]),
    limit=5,
).points

┌─────────────────────────────────────────────────────────┐
│ 라이브러리         FAISS, hnswlib, Annoy                  │ ← 인덱스만 제공
├─────────────────────────────────────────────────────────┤
│ 기존 DB 확장       pgvector(PostgreSQL),                 │ ← 익숙한 DB에 벡터 추가
│                   Elasticsearch/OpenSearch kNN           │
├─────────────────────────────────────────────────────────┤
│ 전용 벡터 DB       Qdrant, Milvus, Chroma, Weaviate      │ ← 벡터 검색 중심 설계
├─────────────────────────────────────────────────────────┤
│ 완전 관리형 서비스  Pinecone, 각 벡터 DB의 클라우드 버전   │ ← 운영을 맡김
└─────────────────────────────────────────────────────────┘

1. 벡터가 몇 개인가? (지금 + 1~2년 후)
     └─ 수십만 개 이하 → Flat이나 pgvector로도 충분한 경우가 많다
2. 이미 쓰는 DB, 검색 엔진이 있는가?
     └─ Postgres → pgvector / Elasticsearch·OpenSearch → 내장 kNN
3. 필터 조건이 복잡하거나, 권한 필터가 필수인가?
     └─ 필터링 Recall을 직접 테스트한다
4. 직접 운영할 수 있는가?
     └─ 아니오 → 관리형 서비스
5. 데이터가 외부 클라우드에 저장되어도 되는가?
     └─ 아니오 → 자체 호스팅
6. 키워드 검색과 함께 써야 하는가?
     └─ 하이브리드 검색 지원 여부 확인