사내 지식 검색(RAG) 도입 준비

사내 문서를 찾아 답하는 AI를 검토하고 있다면, 첫 질문은 어떤 모델을 쓸지가 아닐 수 있습니다. 누가 어떤 자료를 볼 수 있는지, 최신 기준이 어디에 있는지, 무엇을 좋은 답변으로 볼지부터 정리하면 시범 적용의 범위를 구체적으로 잡을 수 있습니다.

01. 반복되는 질문부터 좁힙니다

처음부터 회사의 모든 지식을 연결하기보다, 특정 부서에서 자주 반복되는 질문을 선택합니다. 업무 규정, 제품 설명, 운영 매뉴얼처럼 담당자와 기준 문서가 명확한 영역이 출발점을 정하기에 좋습니다.

답변을 찾는 데 걸리는 시간뿐 아니라, 잘못 안내했을 때의 영향도 함께 살펴봅니다. 승인이나 판단이 필요한 업무는 담당자가 확인할 지점을 먼저 정합니다.

정리할 항목

같은 규정의 여러 버전이 섞여 있거나, 제목만으로 문서의 적용 대상을 알기 어렵다면 검색 결과도 혼란스러울 수 있습니다. 기준 버전, 시행일, 문서 소유자, 갱신 주기를 함께 정리합니다.

표, 이미지, 스캔 문서 등 형식이 다른 자료는 내용을 읽어내는 방식과 품질 확인 과정이 달라질 수 있습니다. 처음에는 대표 문서 몇 종류를 선정해 처리 결과를 검토하는 방식으로 접근합니다.

정리할 항목

하나의 검색창을 제공하더라도 모든 문서를 모든 사용자에게 보여줄 수 있는 것은 아닙니다. 부서, 역할, 프로젝트에 따라 열람 범위가 어떻게 나뉘는지 확인하고, 검색 단계에서 적용할 권한 기준을 설계합니다.

질문과 답변 이력, 외부 모델로 전달되는 정보, 운영자가 열람할 수 있는 기록의 범위도 함께 협의합니다. 데이터의 위치와 제공 방식은 실제 운영 정책에 맞춰 결정합니다.

사용자가 답변의 출처를 확인할 수 있도록 원문 위치와 기준 문서를 연결하는 구성을 검토합니다. 출처가 표시되어 있어도 답변 내용과 원문이 일치하는지는 별도로 확인해야 합니다.

자료에서 근거를 찾지 못한 질문은 답변을 유보하거나 담당자에게 안내하도록 설계합니다. 오래된 문서, 서로 충돌하는 규정, 권한 밖의 요청도 평가에 포함합니다.

대표 질문과 기대 답변, 확인할 출처를 묶은 평가 세트를 준비합니다. 잘 찾는 질문뿐 아니라 애매한 표현, 자료에 없는 내용, 여러 문서를 비교해야 하는 질문도 넣습니다.

시범 적용에서는 근거의 적절성, 검색 결과의 권한 준수, 답변 유보, 사용자 피드백을 함께 확인합니다. 결과를 바탕으로 문서 범위와 질문 유형을 단계적으로 넓힙니다.

CONVERSATION STARTER

아래 내용을 정리해 두면 초기 논의의 범위를 더 빠르게 맞출 수 있습니다. 모두 준비되어 있지 않아도 현재 상황부터 이야기할 수 있습니다.

KPS 프로젝트 가이드 · 구체적인 기술 구성과 적용 조건은 요구사항에 따라 달라집니다.