#사용기 1

로컬 LLM 도구 3개로 사내 문서 RAG를 시도한 기록, Ollama·LM Studio·AnythingLLM

Ollama·LM Studio로 한국어 모델을 받고 AnythingLLM으로 사내 규정 문서 RAG를 묶어 봤습니다. 몇 달 만에 문서에 근거한 답이 나왔지만, 그때 답변 모델은 로컬이 아니라 클라우드(Gemini)였습니다.