무엇을 하나요
“출장비 정산은 어떻게 하나요?” 같은 질문에, 관련 내규를 찾아 답과 출처를 함께 보여 줍니다.
왜 만들었나요
데모할 때마다 “우리 문서가 OpenAI로 나가나요?”라는 질문이 나와서, 데이터가 어디까지 나가는지 코드와 UI로 보이게 만들었습니다.
어떻게 동작하나요
query_planner.py → vector_search.py → rag_generator.py 순서입니다. Streamlit 화면에서 의도, 카테고리, 참고 문서를 같이 표시합니다.
설계 메모
- Step 1: OpenAI — 질문만 보내 검색 계획(JSON) 생성
- Step 2: 로컬 FAISS — 문서 검색
- Step 3: 로컬 Ollama — 검색 결과로 답변 생성
웹 시연과 실제 배포
| 단계 | 사내 배포 | 웹 시연 (이 사이트) | |------|-----------|---------------------| | 질문 분석 | OpenAI | 동일 | | 벡터 검색 | 로컬 FAISS | 동일 | | 답변 생성 | 로컬 Ollama | 클라우드 LLM (Ollama 미지원) |
웹 시연은 흐름 확인용입니다. 사내 환경에서는 Step 3도 로컬에서만 돌아갑니다.
어려웠던 점
“어디까지가 외부인지”를 한 화면에서 설명하는 UI — 기술보다 설명이 더 어려웠습니다.