업무자동화와 AI로 일하는 방법을 기록합니다.태그
#사내 LLM 4
사내 규정 AI를 만들기 전에 정할 것, 문서만 올려서는 부족한 이유
"회사 문서를 AI에 다 주고 물어보면 되지 않나?"라는 질문에서 출발해, 사내 규정·업무 AI에서 사람이 할 일과 AI에게 맡길 일을 나눴습니다. 지식 분류, 규정 버전과 날짜, 업무 규칙, 문서에 없는 지식, 보안, 4주 시작 방법까지 다룹니다.
사내 LLM RAG 구축 ① 개략도와 시작 전 주의사항 8가지
PC 한 대로 띄운 사내 AI는 맞는 문서를 100% 찾고도 문서 내용으로는 한 번도 답하지 못했습니다. 그 경험에서 출발한 전체 구조와 시작 전 주의사항 8가지를 적었습니다.
사내 LLM RAG 구축 ③ 실패 뒤에 RAG를 단계별로 뜯어본 공부
로컬 시험이 막힌 뒤 RAG의 단계를 하나씩 나눠 보며 학습 계획, 요구사항 정의서, 코드 골격을 만들었습니다. AI가 만든 코드에는 계획에 없던 웹 검색이 들어가 있었습니다.
사내 LLM RAG 구축 ② 문서는 100% 찾고 답은 0%, 노트북 사흘 시험
노트북 한 대로 사내 문서 AI 챗봇을 사흘간 띄워 봤습니다. 관련 문서는 100% 찾았지만 문서 내용으로 답한 비율은 0%였고, 이 실패로 이후 설계의 방향이 정해졌습니다.