Tag
#LLM 9
2026
-
RAG 검색의 세 단계: 바이 인코더, 크로스 인코더, LLM rerank
RAG 검색에서 바이 인코더, 크로스 인코더, LLM rerank가 후보 검색과 정밀한 문서 선택을 어떻게 나누어 맡는지 설명합니다.
#RAG #바이인코더 #크로스인코더 #rerank #LLM #검색 -
LLM이 판단하면 되는데, 왜 Jev가 필요한가?
Jev가 LLM과 어떻게 다르고, typed decision과 병렬 샘플링을 활용해 어떤 판단을 맡는지 질문을 따라 설명한다.
#Jev #TypeSafe AI #System One #LLM #AI 에이전트 -
밤새 실험하는 AI 연구원, 카파시의 autoresearch
에이전트가 train.py를 고치고 5분간 학습한 뒤 val_bpb로 결과를 골라내는 autoresearch의 구조, 성과와 한계를 설명합니다.
#autoresearch #AI에이전트 #AndrejKarpathy #LLM #머신러닝 -
[LLM Wiki 27] 임베딩 검색은 왜 비슷한 업무 문서를 헷갈릴까: GraphDB로 검색 범위 줄이기
업무 규칙 문서에서 임베딩 검색이 어려운 이유와 질문 복잡도 분석, Query Router, Page Tree, GraphDB를 결합해 검색 범위와 응답시간을 줄이는 방법을 설명합니다.
#Embedding #GraphDB #PageTree #QueryRouter #HybridSearch #RAG #검색 #업무문서 #LLM -
LLM Wiki는 검색을 어떻게 하나, 그리고 임베딩은 쓸까
카파시의 LLM Wiki에서 검색이 효율적인 이유를 단계별로 따라가고, 임베딩(RAG)이 어디에 쓰이고 어디엔 안 쓰이는지를 그림으로 가립니다. index 지도, 링크 그래프, 캐싱, 임베딩의 진짜 위치.
#LLM #지식관리 #Karpathy #임베딩 #RAG #검색 #PKM -
카파시의 LLM Wiki — AI를 검색기가 아니라 '쉬지 않는 편집자'로
안드레이 카파시가 제안한 LLM Wiki 패턴 — AI를 검색기가 아니라 지식을 쌓고 정리하는 편집자로 쓰는 법을 그림으로 풀었습니다. raw/LLM/wiki 3계층과 Ingest, Query, Lint 세 동작, 운영법까지.
#LLM #지식관리 #Karpathy #AI에이전트 #Claude Code #RAG #PKM -
‘카파시 가이드라인’ 깊이 읽기 — LLM 코딩 실수를 줄이는 4원칙, 그리고 그대로 베끼면 안 되는 이유
바이럴된 andrej-karpathy-skills의 CLAUDE.md를 자연스러운 한국어 번역과 함께 뜯어봅니다. 네 원칙이 각각 어떤 LLM 실패 모드를 정조준하는지, 무엇을 배울 수 있는지, 그리고 왜 템플릿이 아니라 메뉴로 써야 하는지까지 분석합니다.
#ClaudeCode #LLM #AI #코딩에이전트 #프롬프트엔지니어링 -
하네스 엔지니어링 — 모델을 감싸고, 그 위에 또 감싸는 일
하네스는 한 겹이 아니다. 모델을 감싸면 에이전트가 되고, 그 에이전트를 또 감싸면 내 목적에 맞는 시스템이 된다. 양파처럼 중첩되는 하네스 구조와, 왜 요즘 Claude 위에 하네스를 또 얹는지를 그림 한 장으로 풉니다.
#하네스 #AI에이전트 #LLM #Claude Code #harness #중첩 -
IFP 뜯어보기 — '질문을 읽고 필요한 부분만 켜는' 모델 (Instruction-Following Pruning)
Apple의 Instruction-Following Pruning(arXiv 2501.02086)을 실제 동작 단계까지 도식으로 따라갑니다. Sparsity Predictor·SoftTopK·FFN 가지치기·2단계 학습, 그리고 입력이 정확히 무엇이고 언제 한 번 고르는가(멀티턴 아님)까지.
#IFP #가지치기 #sparsity #LLM #Apple #온디바이스AI