[LLM Wiki 2] RAG를 넘어서: LLM Wiki란 무엇인가

LLM Wiki는 LLM이 읽고 참고할 수 있도록 지식을 구조화된 markdown wiki로 쌓아가는 방식이다. 단순히 문서를 업로드하고 질문할 때마다 검색하는 RAG와 다르다. 핵심은 지식이 매번 다시 만들어지는 것이 아니라, 지속적으로 누적되고 갱신된다는 점이다.

일반 RAG의 기본 흐름

일반 RAG는 다음처럼 동작한다.

이 방식은 유용하다. 하지만 매번 새로 찾고 새로 조합한다. 이전에 “가격정책 변화 흐름”을 잘 정리했더라도, 그 결과가 지속적인 지식 구조로 저장되지 않으면 다음 질문에서 다시 비슷한 작업을 해야 한다.

LLM Wiki의 핵심 아이디어

LLM Wiki는 원본 문서를 검색 대상으로만 두지 않는다. 새 자료가 들어오면 LLM이 그것을 읽고, 기존 wiki를 갱신한다.

즉 LLM은 단순 답변자가 아니라 wiki 편집자가 된다. 회의록을 읽고, 적절한 위치에 정리하고, 기존 정보와 연결하고, 충돌이나 변경을 표시한다.

RAG와 LLM Wiki의 차이

차이를 한 장으로 보면 이렇다.

일반 RAG는 질문 시점의 검색에 집중한다. LLM Wiki는 자료가 들어오는 시점부터 지식을 정리한다.

세 층 구조

LLM Wiki는 보통 세 층으로 나누는 것이 좋다. Raw Sources는 수정하지 않는 원본이고, Wiki Cards는 사람이 읽는 지식이며, Schema는 LLM이 그 지식을 관리할 때 따르는 편집 규칙이다.

원본과 wiki를 분리하는 이유는 중요하다. LLM이 만든 요약은 틀릴 수 있다. 그래서 원본은 항상 남겨두고, wiki 카드에는 원본으로 돌아가는 링크가 있어야 한다.

사람이 하는 일과 LLM이 하는 일

LLM Wiki에서 사람과 LLM의 역할은 분리된다. 사람은 기준과 최종 판단을 잡고, LLM은 반복적인 요약, 카드 생성, 링크 연결, 누락 점검을 맡는다.

사람이 모든 회의록을 읽고, 결정과 액션을 따로 정리하고, 관련 프로젝트를 업데이트하는 것은 오래가지 못한다. 유지보수 부담이 너무 크기 때문이다. LLM Wiki는 이 반복 작업을 LLM에게 맡긴다.

좋은 답변도 지식이 된다

LLM Wiki에서 중요한 습관은 좋은 답변을 다시 저장하는 것이다.

이렇게 하면 질문 자체도 지식베이스를 키우는 재료가 된다.

LLM Wiki는 모델 fine-tuning이 아니다. 최신 회의록처럼 계속 바뀌는 지식은 모델 안에 넣기보다, 출처와 수정 이력이 남는 wiki에 두는 편이 낫다.