I-SOFT SOLUTION · 주식회사 아이소프트

AI RAG Chatbot
전자정부프레임워크 V5.0 기반
온프레미스 생성형 AI 챗봇 솔루션

기관 내부 문서를 벡터화해 저장하고, 질문에 가장 관련성 높은 근거를 검색해 답변합니다.

내부망 독립 구동 (sLLM)출처 기반의 신뢰도 높은 답변공공기관 보안 규정 준수

문서 수집PDF·MD·TXT 표준화

→

벡터 저장임베딩 → Vector DB

→

질의 응답답변 + 출처 생성

솔루션 개요

문서 기반 지식을 생성형 AI로 답변하는
기업·기관 전용 RAG 챗봇 플랫폼

I-SOFT AI RAG 솔루션은 기관 내부 문서를 벡터화하여 저장하고, 사용자의 질문에 가장 관련성 높은 근거를 검색해 답변하는 검색 증강 생성(RAG) 기반 AI 챗봇입니다. 외부 클라우드 API 없이 내부 서버에서 완결적으로 동작합니다.

온프레미스 sLLM

외부 API를 쓰지 않는 자체 구축형 경량 LLM으로 데이터 주권 확보

RAG 검색 증강

문서 청크·벡터 검색으로 환각을 줄인 정확한 도메인 답변

출처 기반 답변

답변마다 근거 문서와 출처를 함께 제시해 신뢰도 향상

eGovFrame V5.0

전자정부프레임워크 표준 준수로 공공 정보시스템과 자연스럽게 통합

주요 서비스 개념

문서 수집부터 답변 생성까지, 내부망 안에서 완결되는 3단계 파이프라인

STEP 01문서 수집

사용자원본 문서 등록

PDF

MD

TXT

문서 변환 서비스PDF-to-MD 등 · 표준화

.md 파일변환된 원본

internal내부문서

external외부문서

originals원본PDF

수집임베딩저장검색LLM

STEP 02처리 및 저장

텍스트 분할 (Chunking)

임베딩 모델BAAI/bge-m3 · 텍스트 → 벡터 변환

벡터 임베딩

ChromaDB벡터 데이터베이스 · 코사인 유사도 검색

로컬 LLM 서버LLM 서비스

Docker Network컨테이너 기반 구성

STEP 03질의 응답

사용자지식 질의 응답 · 자연어 질문

질문 임베딩문장 전체 Vector 값 생성

유사도 검색문서 Vector와 유사도 계산

관련 문서 컨텍스트

답변 + 출처로컬 LLM 생성

Docker Network 기반으로도 구성 가능하여 설치·이관·확장이 용이합니다.

RAG 동작 원리

질문과 문서를 같은 벡터 공간에서 비교해
가장 정확한 근거를 찾아냅니다

1문서 분할·벡터화문서를 조각(청크) 단위로 나누어 Vector 값 저장›

2질문 임베딩질문 시 문장 전체의 Vector 값 생성›

3유사도 검색문서 Vector와 질문 Vector의 유사도 계산›

4답변 + 출처 제공높은 유사도의 결과를 근거로 답변과 출처 제시

?

왜 RAG인가?

일반 생성형 AI의 환각(Hallucination)을 근거 문서 검색으로 억제하고, 재순위화(Reranking)로 답변 정확도를 한층 끌어올립니다.

답변 출처 바로보기

모든 답변에 근거 문서와 페이지 번호를 함께 제공하고, 클릭 한 번으로 원문을 확인합니다

AI RAG CHATBOT출처 기반 답변

기기 예약은 어떻게 하나요?

예약은 담당자 승인 후 확정됩니다. 분석담당자가 내용·일정을 확인해 예약을 승인하며, 이후 시험분석이 진행됩니다.

참고 자료 (2건) ⌃

공동실험실습관 기기 예약 안내p.1 ›

연구장비공동활용지원센터 기기 예약 안내p.1 ›

출처 클릭 →

AI 답변 하단의 출처를 클릭해 보세요 원문 뷰어가 열려 해당 문서를 즉시 확인합니다

공동실험실습관 기기 예약 안내2 / 4 · 100%

3

STEP 3 – 예약승인

분석담당자는 분석내용 및 일정 확인 후 예약을 승인합니다.

4

STEP 4 – 시험분석

승인된 예약 건에 대해 시험분석이 진행됩니다.

원문 뷰어가 열려 해당 문서를 즉시 확인 — 페이지 번호까지 표시

근거 문서 자동 표시AI 답변 하단에 참고 자료가 자동 표시

페이지 번호까지 표시어느 문서 몇 페이지 근거인지 명확히 안내

클릭 한 번으로 원문 이동출처 링크 클릭 시 문서 뷰어가 즉시 열림

답변 근거의 직접 검증환각 걱정 없이 신뢰할 수 있는 업무 활용

데이터 유출 원천 차단

민감한 내부 데이터와 개인정보를 지키는 보안 대책

내부망 독립 구동

ChatGPT 등 외부 API를 사용하지 않고 내부 서버에 직접 구축된 자체 모델(sLLM)로 동작 — 민감한 데이터와 개인정보의 외부 유출을 원천적으로 방지

보안 규정 준수

국가공공기관 보안관리요령 및 개인정보보호법 준수 — 모든 질의응답 데이터를 암호화하고 내부 방화벽 안에서 안전하게 처리

감사와 이력 관리

설정 변경 이력과 대화 기록을 지식별로 모니터링하여 운영 투명성 확보

100%

내부망 완결 처리질의·답변·학습 데이터가 외부로 나가지 않습니다

01주요 기능 01

지식 기반 · 문서 관리

문서 등록부터 벡터화까지, 관리자 화면에서 클릭만으로 진행됩니다.

지식별 문서 등록지식(주제) 단위로 파일을 추가하면 벡터 작업이 자동 진행되고 완료 상태가 표시됩니다

파일 목록 관리지식별로 추가된 파일 목록과 처리 현황을 한눈에 확인

문서 상세 관리문서별 메타 정보 확인과 수정·삭제 등 손쉬운 운영 관리

지식기반 관리 화면

문서 상세 팝업

문서 상세✕

문서명연구장비공동활용지원센터 기기 예약 안내

지식규정 및 정책 ▾

문서 타입MD

출처파일 업로드

청크수3개

상태완료

청크 목록 · 총 3개 청크

순번	내용	관리
1	[문서제목] 연구장비공동활용지원센터 기기 예약 안내 [출처] 규정 및 정책 …	✎ 🗑
2	[문서제목] 기기 예약 안내 / 예약 절차 요약 ** 이 내용…	✎ 🗑
3	[문서제목] 기기 예약 안내 … 계산서를 발행해 드립니다. **Q. …	✎ 🗑

기기 예약 안내 — 청크 #1 · 페이지 0 · 토큰 989

[문서제목] 연구장비공동활용지원센터 기기 예약 안내 / [출처] 규정 및 정책 [유형] 마크다운 문서 · 센터: 연구장비공동활용지원센터 … ← 목록으로

02주요 기능 02

청크(Chunk) 관리

청크는 AI가 검색하는 최소 지식 단위 — 청크 품질이 곧 답변 품질입니다.

문서별 청크 목록문서 상세에서 분할된 청크 수·임베딩 상태를 한눈에 확인

청크 단위 수정·삭제개별 청크 편집으로 AI 학습 데이터 품질을 직접 통제

청크 상세·토큰 확인페이지·토큰 수와 원문 내용을 청크 단위로 검증

재임베딩·지식 재분류수정 후 클릭 한 번으로 재벡터화, 지식기반 변경 지원

03주요 기능 03

대화 모니터링 · 이용 통계

응답 정확도·긍정 피드백율·질문 건수 등 운영 지표를 실시간으로 확인합니다.

지식별 대화 모니터링AI 챗봇의 대화 내역을 지식 단위로 조회·모니터링

운영 대시보드응답 현황·처리 건수 등 서비스 운영 지표를 실시간 확인

이용 통계 시각화분류별 이용 비중과 추이를 차트로 제공해 서비스 개선에 활용

실제 운영 화면 예시 — 대화 모니터링 · 응답 정확도/유사도 지표

AI 설정 — LLM 프로바이더·모델·파라미터

프롬프트 관리 — 지식기반별 템플릿 편집

04주요 기능 04

AI 설정 · 프롬프트 관리

모델 교체·파라미터 튜닝까지 관리자 화면에서 코딩 없이 처리합니다.

LLMAI 모델 프로바이더 및 파라미터 설정

EMBEDDING임베딩 모델과 청크 설정 관리

RAGAI 검색 관련 세부 설정 관리

VECTOR_STOREElasticsearch 등 벡터 저장소 연결 설정

이력설정 변경 이력 확인으로 안전한 운영

05주요 기능 05

사용자 챗봇 (웹 · 모바일)

자연어 질의응답AI와 대화로 학습데이터·관련 정보를 질의하고 즉시 답변 확인

자주 하는 질문(FAQ)FAQ를 등록해 클릭 한 번으로 답변 제공

대화 히스토리좌측 히스토리에서 이전 대화를 클릭해 바로 이어보기

유연한 화면 구성독립 대화창 또는 기존 화면 위 팝업으로 제공, 모바일 지원

사용자 챗봇(웹) — 대화 히스토리 · 출처 기반 답변

적용 분야

내부 문서·규정이 있는 모든 조직에
맞춤형 AI 지식 서비스를 구축합니다

연구기관 · 대학구축 사례

연구장비 매뉴얼·예약 규정을 학습해 장비 활용법·예약 절차·분석 의뢰를 24시간 안내

공공기관 · 지자체

법령·조례·업무 지침 기반의 민원 안내와 내부 행정 업무 질의응답

기업 사내 헬프데스크

인사·복무·보안 규정과 사내 업무 매뉴얼을 즉시 답변하는 임직원 AI 비서

제조 · 산업 현장

설비 매뉴얼·작업표준(SOP)·안전 지침을 현장에서 바로 검색하고 답변

의료 · 헬스케어

원내 규정·행정 절차·장비 사용 안내 등 민감정보를 내부망에서 안전하게 처리

고객 지원 서비스

제품 설명서·FAQ를 학습한 대고객 상담 챗봇으로 반복 응대 자동화

내부 문서가 있는 곳이라면 어디든 — 기관별 지식 구조에 맞춘 맞춤형 구축을 지원합니다.

강점과 도입 시 고려사항

객관적으로 보는
I-SOFT AI RAG 솔루션

강점

완전 온프레미스 — 데이터 주권과 보안 규정 준수

전자정부프레임워크 V5.0 — 공공 정보화 사업에 최적

출처 기반 답변 — 환각 억제와 검증 가능한 신뢰성

비전문가도 운영 가능한 직관적 관리자 기능

Docker 기반 — 기관 환경에 맞춘 유연한 커스터마이징

고려사항과 I-SOFT의 해법

sLLM은 초대형 상용 모델 대비 범용 지식이 제한적→ 도메인 문서 RAG + 재순위화로 업무 답변 정확도 보완

자체 구축형 특성상 GPU 등 인프라 준비 필요→ 경량 모델·Docker 구성으로 도입 규모에 맞게 최적화

초기 지식 데이터 구축 과정 필요→ 문서 자동 변환·벡터화 파이프라인으로 구축 부담 최소화

도입 기대 효과

문서를 뒤지는 시간이 사라지고,
데이터 주권은 지켜집니다

업무 지식 검색 시간 단축

규정·지침·매뉴얼을 대화 한 번으로 — 문서를 뒤지는 시간이 사라집니다

반복 문의 응대 자동화

FAQ와 24시간 챗봇 응대로 담당자의 단순 응대 부담 경감

데이터 주권 확보

내부망 완결 구조로 보안 심사·규정 준수 걱정 없이 생성형 AI 도입

사이트맵

isoft에 대해 검색해 보세요.

Ai Rag Chatbot

AI RAG Chatbot전자정부프레임워크 V5.0 기반온프레미스 생성형 AI 챗봇 솔루션

문서 기반 지식을 생성형 AI로 답변하는기업·기관 전용 RAG 챗봇 플랫폼

문서 수집부터 답변 생성까지, 내부망 안에서 완결되는 3단계 파이프라인

STEP 01문서 수집

STEP 02처리 및 저장

STEP 03질의 응답

질문과 문서를 같은 벡터 공간에서 비교해가장 정확한 근거를 찾아냅니다

모든 답변에 근거 문서와 페이지 번호를 함께 제공하고, 클릭 한 번으로 원문을 확인합니다

민감한 내부 데이터와 개인정보를 지키는 보안 대책

지식 기반 · 문서 관리

청크(Chunk) 관리

대화 모니터링 · 이용 통계

AI 설정 · 프롬프트 관리

사용자 챗봇 (웹 · 모바일)

내부 문서·규정이 있는 모든 조직에맞춤형 AI 지식 서비스를 구축합니다

연구기관 · 대학구축 사례

공공기관 · 지자체

기업 사내 헬프데스크

제조 · 산업 현장

의료 · 헬스케어

고객 지원 서비스

객관적으로 보는I-SOFT AI RAG 솔루션

강점

고려사항과 I-SOFT의 해법

문서를 뒤지는 시간이 사라지고,데이터 주권은 지켜집니다

업무 지식 검색 시간 단축

반복 문의 응대 자동화

데이터 주권 확보

AI RAG Chatbot
전자정부프레임워크 V5.0 기반
온프레미스 생성형 AI 챗봇 솔루션

문서 기반 지식을 생성형 AI로 답변하는
기업·기관 전용 RAG 챗봇 플랫폼

질문과 문서를 같은 벡터 공간에서 비교해
가장 정확한 근거를 찾아냅니다

내부 문서·규정이 있는 모든 조직에
맞춤형 AI 지식 서비스를 구축합니다

객관적으로 보는
I-SOFT AI RAG 솔루션

문서를 뒤지는 시간이 사라지고,
데이터 주권은 지켜집니다