상담 채널과 문서 RAG 구성

입시 상담 경로와 같은 백엔드의 사용자 문서 RAG를 나눴습니다. 두 구성을 하나의 운영 배포 구조로 합치지 않았습니다.

01 · 구성 및 역할

입시 상담 · 웹과 카카오 응답

같은 입시 상담 RAG를 사용하면서 채널에 맞춰 답변 전달 방식을 달리했습니다.

좌우로 움직여 전체 그림을 볼 수 있습니다.
입시 상담 · 웹과 카카오 응답같은 입시 상담 RAG를 사용하면서 채널에 맞춰 답변 전달 방식을 달리했습니다. 코드의 검색 설정은 FAISS MMR, k=3, fetch_k=20입니다. 검색 결과 수는 정답 정확도 지표가 아닙니다. 카카오 경로는 응답 접수와 실제 답변 전송을 분리합니다. 모든 답변이 특정 시간 이내 완료된다는 의미는 아닙니다.웹 상담 · 답변을 순차 전달카카오 상담 · 접수 응답 후 결과 전달웹 질문 · 대화 IDFastAPI 상담 요청질문과 세션 식별답변 스트림 시작입시 문서 RAGVoyage 임베딩 · FAISSMMR 검색과 대화 이력Bedrock 모델 응답 생성SSE 응답생성된 답변 순차 전달대화 이력 저장채널별 토큰 비용 기록카카오 질문 접수질문 · 대화 ID 수신콜백 사용 응답 우선 반환백그라운드 처리 등록입시 문서 RAG같은 상담 모델 호출문서 근거와 대화 이력완성된 답변 구성콜백으로 결과 전달완성된 응답을 후속 전송카카오 형식에 맞춰 반환채널별 토큰 비용 기록
근거와 해석 범위
  • 코드의 검색 설정은 FAISS MMR, k=3, fetch_k=20입니다. 검색 결과 수는 정답 정확도 지표가 아닙니다.
  • 카카오 경로는 응답 접수와 실제 답변 전송을 분리합니다. 모든 답변이 특정 시간 이내 완료된다는 의미는 아닙니다.

2026.10.08 원본 Git의 웹 스트림 라우트, 카카오 콜백 처리, 공통 상담 모델과 비용 콜백을 대조했습니다. 원본 경로·프롬프트·운영 접속 정보는 제외했습니다.

02 · 처리 흐름

사용자 문서 RAG · 지식 준비와 조회

같은 백엔드에 있는 문서 업로드형 RAG 경로입니다. 입시 상담용 고정 지식 경로와는 별도로 구현되어 있습니다.

좌우로 움직여 전체 그림을 볼 수 있습니다.
사용자 문서 RAG · 지식 준비와 조회같은 백엔드에 있는 문서 업로드형 RAG 경로입니다. 입시 상담용 고정 지식 경로와는 별도로 구현되어 있습니다. 사용자·문서별 저장 경로는 코드로 확인했습니다. 권한 격리의 완전성이나 보안 감사를 통과했다는 주장은 아닙니다. 입시 챗봇의 Voyage 임베딩 경로와 이 문서 RAG의 Titan 임베딩 경로는 별개입니다. 실제 문서 내용과 내부 저장 위치는 도식에 포함하지 않았습니다.문서 등록 · 검색 가능한 자료 준비지식 저장 · 요청 시 불러와 사용01 · 사용자 문서문서와 사용자 정보 확인원본 파일 저장필요한 형식을 PDF로 변환02 · 내용 추출PDF의 표 유무 확인표 구조를 살린 추출본문을 검색 단위로 분할03 · 임베딩 · 인덱스Bedrock Titan 임베딩문서별 FAISS 생성검색용 인덱스 파일 준비04 · S3에 저장사용자·문서별 저장 위치원본과 인덱스 보관문서 메타정보 별도 관리05 · 요청한 지식 로드사용자·봇·문서 식별필요한 인덱스 다운로드FAISS 검색기 구성06 · 검색 · 답변MMR로 관련 내용 검색문서 문맥과 질문 전달대화 이력과 응답 관리
근거와 해석 범위
  • 사용자·문서별 저장 경로는 코드로 확인했습니다. 권한 격리의 완전성이나 보안 감사를 통과했다는 주장은 아닙니다.
  • 입시 챗봇의 Voyage 임베딩 경로와 이 문서 RAG의 Titan 임베딩 경로는 별개입니다.
  • 실제 문서 내용과 내부 저장 위치는 도식에 포함하지 않았습니다.

원본 Git의 문서 등록·PDF 처리·임베딩·S3 저장과 사용자 문서 모델의 인덱스 로드 경로를 확인했습니다.

01요약

연성대학교 입시 상담을 위한 문서 RAG 백엔드와 웹·카카오 응답 경로를 구현했습니다. 입시 문서의 근거를 검색해 답하고, 채널의 응답 방식과 대화 이력을 함께 처리했습니다.

02문제

입시 상담은 모집요강과 전형 일정 등 근거 문서가 중요하며, 입시 연도 변경에 따라 지식과 안내 문구를 갱신해야 합니다. 웹에서는 답변을 순차 표시할 수 있지만 카카오 상담은 접수 응답과 후속 답변을 분리하는 처리가 필요했습니다.

03나의 역할

RAG 백엔드와 채널별 응답 경로, 문서 처리와 검색 구성을 담당했습니다. 입시 상담에 필요한 근거 문서, 대화 맥락, 채널별 응답 제약을 실제 구현으로 연결했습니다.

04입시 상담 경로

입시 상담 모델은 Voyage 임베딩과 FAISS MMR 검색을 사용하고, 최근 대화 이력을 문서 근거와 함께 모델에 전달합니다. 웹은 SSE로 답변을 순차 전달하며, 카카오는 콜백 사용 응답을 먼저 반환한 뒤 완성된 답변을 후속 전송합니다. 채널별 토큰 비용을 기록하는 경로도 포함돼 있습니다.

05별도 문서 RAG 경로

같은 백엔드에는 사용자가 올린 문서를 처리하는 별도 경로가 있습니다. 문서를 PDF로 변환하고 표·본문을 추출한 뒤 Titan 임베딩과 FAISS 인덱스를 생성합니다. 사용자·문서별로 S3에 보관하고 질문 시 필요한 인덱스를 불러옵니다. 이 경로를 입시 상담의 고정 지식 구성과 혼동하지 않도록 별도 도식으로 나눴습니다. 멀티테넌트 지식 분리를 위해 사용자·문서 식별자를 기준으로 저장 위치와 조회 대상을 구분했습니다.

06운영과 산출물

기존 운영 자료에는 입시 문서 갱신과 서비스 유지보수 이력이 있습니다. 이번에는 상담 채널 구성도, 문서 지식 준비·조회 흐름도, 구현 근거 표를 추가했습니다. 상담 건수·정답 정확도나 유상 검수 완료는 코드만으로 증명할 수 없어 별도 실적으로 확장하지 않았습니다.

07근거와 범위

코드에서 확인한 처리 흐름을 재구성했으며 소스코드·입시 문서 원문·대화 기록·운영 접속 정보는 공개하지 않습니다. 사용자·문서별 저장 경로가 존재한다는 사실을 권한 격리의 완전성이나 보안 감사 완료로 해석하지 않습니다.

원본 Git의 처리 흐름을 공개 가능한 도식으로 재구성했습니다. 고객 데이터·내부 설정·원본 소스는 공개하지 않습니다.

검증 자료

채널과 지식 경로의 근거

채널과 지식 경로의 근거
항목코드·자료에서 확인한 내용해석 범위
웹 상담FAISS MMR 검색, 대화 이력, SSE 응답입시 상담 경로
카카오 상담콜백 접수 응답, 백그라운드 처리, 후속 결과 전달답변 완료 시간 보장 아님
사용자 문서 RAGPDF 처리, Titan·FAISS, S3 저장·로드같은 백엔드의 별도 경로
운영·역할기존 서비스 운영 자료와 제공 경력기술서PM·유상 계약의 증거를 Git 코드로 대신하지 않음

2026.10.08 원본 Git의 실제 요청·검색·문서 처리 경로를 확인했습니다. 고객 원문과 운영 접속 정보는 제외했습니다.

이 사례의 전체 맥락이 궁금하시면, 문의해 주세요.
gkwoghks96@gmail.com