Latest commit

History

59 Commits

Folders and files

NameName
Last commit message
Last commit date

Repository files navigation

천안재생센터 챗봇 백엔드 (FastAPI + RAG)

PythonFastAPIUvicornFAISSHuggingFace

천안시 도시재생지원센터 전용 챗봇 백엔드입니다.
FastAPI 서버에 RAG 파이프라인(FAISS + BM25 + 임베딩)을 얹어 /api/chat으로 들어온 질문에 답합니다.
런타임 설정은 모두 .env로 관리합니다.


목차


디렉터리 구조

 ~~`~ server/
├─ app/
│ ├─ __init__.py
│ ├─ main.py # FastAPI 시작점 (CORS/정적/라우터 마운트)
│ ├─ config.py # 모든 설정의 단일 진입점(.env 로드)
│ ├─ api/
│ │ ├─ routes.py # /api/chat 등 일반 API 라우트
│ │ └─ tts.py # /api/tts/* (edge-tts; VOICE/RATE/VOLUME 환경변수화)
│ ├─ crawler/
│ │ └─ cheonanurc_clean.py # 크롤러+OCR(내/외부 SEEDS, 로컬 이미지 인제스트)
│ └─ rag/
│ ├─ __init__.py
│ ├─ chatbot.py # ask() 메인 로직
│ ├─ retriever.py # FAISS+BM25 병합 리트리버
│ ├─ reranker.py # (옵션) CrossEncoder 재랭크
│ ├─ verifier.py # fact_check()
│ ├─ embeddings.py # HuggingFace 임베더 (환경변수화)
│ ├─ prompt.py # LLM 프롬프트 템플릿
│ └─ programs.py / faq.py 등
├─ data/
│ ├─ raw/ # 원본 자료(HTML/CSV/JSON/XML 등)
│ └─ clean/ # 크롤링/정제 산출물 (텍스트/이미지/OCR)
├─ build_index.py # (예) 인덱스 생성 스크립트(FAISS 등)
├─ requirements.txt
├─ .env # 실제 환경설정 (비공개)
├─ .env.example # 예시 환경설정
└─ Makefile # `make run`, `make ingest` 등~`~~

빠른 시작

1) 저장소 클론

git clone https://github.com/KT-TeamProject-11/server
cd server

2) 가상환경 & 설치

python -m venv venv
source venv/bin/activate # Windows: .\venv\Scripts\activate
pip install -r requirements.txt # 또는: make install

3) 환경변수 설정

cp .env.example .env
# .env 열어 OPENAI_API_KEY 등 값 채우기 (공백 포함 값은 "따옴표" 필수)

4) 데이터 준비

  • (선택) 크롤링+OCRapp/data/clean 생성:

     python -m app.crawler.cheonanurc_clean
    
  • (예시) 인덱스 생성:

     python build_index.py
    

5) 개발 서버 실행

uvicorn app.main:app --reload --env-file .env
# 또는
make run

Swagger UI:


API

POST /api/chat

챗봇에게 질문을 보내고 답변을 받는 메인 엔드포인트.

Request

 { "message": "질문 내용" }

Response

 { "answer": "챗봇 응답" }

cURL

 curl -X POST http://localhost:8555/api/chat \
-H "Content-Type: application/json" \
-d '{"message":"센터 운영시간 알려줘"}'

TTS (edge-tts)

  • POST/api/tts/speak
  • GET/api/tts/speak?text=...&voice=...
  • GET/api/tts/ping (상태/현재 설정 확인)

voice 파라미터를 생략하면 .envTTS_VOICE를 사용합니다.

예시

 # GET
curl -G http://localhost:8555/api/tts/speak --data-urlencode "text=안녕하세요"
# POST
curl -X POST http://localhost:8555/api/tts/speak \
-H "Content-Type: application/json" \
-d '{"text":"안녕하세요","voice":"ko-KR-SunHiNeural"}' --output out.mp3

아키텍처 개요

[Client / Frontend]
│ HTTP (POST /api/chat)
▼
[FastAPI - app.main / app.api.routes]
│ ask()
▼
[RAG 파이프라인]
1) FAQ/URL/규칙 확인
2) Retriever(FAISS+BM25) → 문맥 수집
3) (옵션) Reranker(CrossEncoder)
4) LLM 프롬프트 구성 & 응답 생성
▼
[JSON 응답: { "answer": "..." }]

주요 환경변수

 # LLM/OpenAI
OPENAI_API_KEY=sk-xxxx
OPENAI_MODEL=gpt-4o-mini
OPENAI_TEMPERATURE=0.2
MAX_COMPLETION_TOKENS=1024
# RAG / 임베딩/인덱스
EMBED_MODEL_ID=intfloat/e5-large-v2
INDEX_DIR=app/data/index
CLEAN_DIR=app/data/clean
# Retriever 가중치
RETRIEVER_K=12
VEC_WEIGHT=0.7
BM25_WEIGHT=0.3
# (옵션) Reranker
RERANK_MODEL_ID=khoj-ai/mxbai-rerank-base-v1
RERANK_TOP_N=4
# 캐시/Redis
REDIS_URL=redis://localhost:6379/0
CACHE_TTL_SEC=600
# CORS (쉼표로 구분)
CORS_ORIGINS=http://localhost,http://127.0.0.1,http://localhost:8666
# 정적/퍼블릭
STATIC_URL_PREFIX=/static
PUBLIC_BASE_URL=http://localhost:8555
# TTS
TTS_VOICE=ko-KR-SunHiNeural
TTS_RATE=-4%
TTS_VOLUME=+0%
TTS_MEDIA_TYPE=audio/mpeg
# 크롤러/네트워크
HTTP_USER_AGENT=Mozilla/5.0 (compatible; CheonanURC-CleanBot/1.0)
REQUEST_TIMEOUT_SEC=30
CONCURRENCY=6
BATCH_GATHER=64
# OCR
ENABLE_OCR=1
OCR_BACKENDS=paddle,tesseract
OCR_LANG=kor+eng
PADDLE_OCR_LANG=korean
TESSERACT_CMD=/usr/bin/tesseract
OCR_MIN_CONF=0.65
OCR_MIN_CHARS=15
OCR_USE_ENS=1
OCR_ROTATE_ALL=1
OCR_SCALE_UP=1.8
MAX_GIF_FRAMES=10
OCR_ATTACH_TO_MD=1
# 로컬 이미지 인제스트
# LOCAL_IMAGE_ROOT=/path/to/local/images
LOCAL_IMAGE_DEFAULT_CATEGORY=센터소개
# (선택) 외부 SEEDS 정의 파일
# SEEDS_FILE=/path/to/seeds.json

Makefile

install:
pip install -r requirements.txt
ingest:
python build_index.py
run:
uvicorn app.main:app --reload --env-file .env
health:
curl -s http://localhost:8555/ | jq .
clean:
find . -type d -name "__pycache__" -exec rm -rf {} + || true

프론트엔드 연동

  • ->별도 프론트엔드 레포: https://github.com/KT-TeamProject-11/client_v2
  • 기본은 백엔드 http://localhost:8555에 연결합니다.
    프록시/도메인을 쓰는 경우 .env 또는 프런트 설정에서 API 베이스 URL을 맞춰 주세요.

About

RAG-Chatbot_Cheonan_Urban_Regeneration_Support_Center

Resources

Stars

0 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages

, 'i'); if (__m === '*' || __re.test(location.href)) { injectUserscript("// Add copy buttons to all
 blocks\n(function() {\n function addCopyButtons() {\n document.querySelectorAll('pre code').forEach(function(codeBlock) {\n if (codeBlock.parentElement.hasAttribute('data-copy-added')) return;\n codeBlock.parentElement.setAttribute('data-copy-added', 'true');\n \n var btn = document.createElement('button');\n btn.textContent = 'Copy';\n btn.style.cssText = 'position:absolute;top:4px;right:4px;padding:2px 8px;font-size:11px;background:#4ecdc4;border:none;border-radius:4px;color:#1a1a2e;cursor:pointer;opacity:0.7;transition:opacity 0.2s;';\n btn.onmouseover = function() { this.style.opacity = '1'; };\n btn.onmouseout = function() { this.style.opacity = '0.7'; };\n btn.onclick = function() {\n navigator.clipboard.writeText(codeBlock.textContent).then(function() {\n btn.textContent = 'Copied!';\n setTimeout(function() { btn.textContent = 'Copy'; }, 1500);\n });\n };\n codeBlock.parentElement.style.position = 'relative';\n codeBlock.parentElement.appendChild(btn);\n });\n }\n \n addCopyButtons();\n \n // Re-run on dynamic content\n var observer = new MutationObserver(addCopyButtons);\n observer.observe(document.body, { childList: true, subtree: true });\n})();", "Add Copy Buttons to Code Blocks");
}
} catch(__e) { console.warn('[Userscript:Add Copy Buttons to Code Blocks]', __e); }
})();
(function(){
try {
var __m = "github.com";
var __re = new RegExp('^' + "github\\.com" + '
Skip to content

Latest commit

History

59 Commits

Folders and files

NameName
Last commit message
Last commit date

Repository files navigation

천안재생센터 챗봇 백엔드 (FastAPI + RAG)

PythonFastAPIUvicornFAISSHuggingFace

천안시 도시재생지원센터 전용 챗봇 백엔드입니다.
FastAPI 서버에 RAG 파이프라인(FAISS + BM25 + 임베딩)을 얹어 /api/chat으로 들어온 질문에 답합니다.
런타임 설정은 모두 .env로 관리합니다.


목차


디렉터리 구조

 ~~`~ server/
├─ app/
│ ├─ __init__.py
│ ├─ main.py # FastAPI 시작점 (CORS/정적/라우터 마운트)
│ ├─ config.py # 모든 설정의 단일 진입점(.env 로드)
│ ├─ api/
│ │ ├─ routes.py # /api/chat 등 일반 API 라우트
│ │ └─ tts.py # /api/tts/* (edge-tts; VOICE/RATE/VOLUME 환경변수화)
│ ├─ crawler/
│ │ └─ cheonanurc_clean.py # 크롤러+OCR(내/외부 SEEDS, 로컬 이미지 인제스트)
│ └─ rag/
│ ├─ __init__.py
│ ├─ chatbot.py # ask() 메인 로직
│ ├─ retriever.py # FAISS+BM25 병합 리트리버
│ ├─ reranker.py # (옵션) CrossEncoder 재랭크
│ ├─ verifier.py # fact_check()
│ ├─ embeddings.py # HuggingFace 임베더 (환경변수화)
│ ├─ prompt.py # LLM 프롬프트 템플릿
│ └─ programs.py / faq.py 등
├─ data/
│ ├─ raw/ # 원본 자료(HTML/CSV/JSON/XML 등)
│ └─ clean/ # 크롤링/정제 산출물 (텍스트/이미지/OCR)
├─ build_index.py # (예) 인덱스 생성 스크립트(FAISS 등)
├─ requirements.txt
├─ .env # 실제 환경설정 (비공개)
├─ .env.example # 예시 환경설정
└─ Makefile # `make run`, `make ingest` 등~`~~

빠른 시작

1) 저장소 클론

git clone https://github.com/KT-TeamProject-11/server
cd server

2) 가상환경 & 설치

python -m venv venv
source venv/bin/activate # Windows: .\venv\Scripts\activate
pip install -r requirements.txt # 또는: make install

3) 환경변수 설정

cp .env.example .env
# .env 열어 OPENAI_API_KEY 등 값 채우기 (공백 포함 값은 "따옴표" 필수)

4) 데이터 준비

  • (선택) 크롤링+OCRapp/data/clean 생성:

     python -m app.crawler.cheonanurc_clean
    
  • (예시) 인덱스 생성:

     python build_index.py
    

5) 개발 서버 실행

uvicorn app.main:app --reload --env-file .env
# 또는
make run

Swagger UI:


API

POST /api/chat

챗봇에게 질문을 보내고 답변을 받는 메인 엔드포인트.

Request

 { "message": "질문 내용" }

Response

 { "answer": "챗봇 응답" }

cURL

 curl -X POST http://localhost:8555/api/chat \
-H "Content-Type: application/json" \
-d '{"message":"센터 운영시간 알려줘"}'

TTS (edge-tts)

  • POST/api/tts/speak
  • GET/api/tts/speak?text=...&voice=...
  • GET/api/tts/ping (상태/현재 설정 확인)

voice 파라미터를 생략하면 .envTTS_VOICE를 사용합니다.

예시

 # GET
curl -G http://localhost:8555/api/tts/speak --data-urlencode "text=안녕하세요"
# POST
curl -X POST http://localhost:8555/api/tts/speak \
-H "Content-Type: application/json" \
-d '{"text":"안녕하세요","voice":"ko-KR-SunHiNeural"}' --output out.mp3

아키텍처 개요

[Client / Frontend]
│ HTTP (POST /api/chat)
▼
[FastAPI - app.main / app.api.routes]
│ ask()
▼
[RAG 파이프라인]
1) FAQ/URL/규칙 확인
2) Retriever(FAISS+BM25) → 문맥 수집
3) (옵션) Reranker(CrossEncoder)
4) LLM 프롬프트 구성 & 응답 생성
▼
[JSON 응답: { "answer": "..." }]

주요 환경변수

 # LLM/OpenAI
OPENAI_API_KEY=sk-xxxx
OPENAI_MODEL=gpt-4o-mini
OPENAI_TEMPERATURE=0.2
MAX_COMPLETION_TOKENS=1024
# RAG / 임베딩/인덱스
EMBED_MODEL_ID=intfloat/e5-large-v2
INDEX_DIR=app/data/index
CLEAN_DIR=app/data/clean
# Retriever 가중치
RETRIEVER_K=12
VEC_WEIGHT=0.7
BM25_WEIGHT=0.3
# (옵션) Reranker
RERANK_MODEL_ID=khoj-ai/mxbai-rerank-base-v1
RERANK_TOP_N=4
# 캐시/Redis
REDIS_URL=redis://localhost:6379/0
CACHE_TTL_SEC=600
# CORS (쉼표로 구분)
CORS_ORIGINS=http://localhost,http://127.0.0.1,http://localhost:8666
# 정적/퍼블릭
STATIC_URL_PREFIX=/static
PUBLIC_BASE_URL=http://localhost:8555
# TTS
TTS_VOICE=ko-KR-SunHiNeural
TTS_RATE=-4%
TTS_VOLUME=+0%
TTS_MEDIA_TYPE=audio/mpeg
# 크롤러/네트워크
HTTP_USER_AGENT=Mozilla/5.0 (compatible; CheonanURC-CleanBot/1.0)
REQUEST_TIMEOUT_SEC=30
CONCURRENCY=6
BATCH_GATHER=64
# OCR
ENABLE_OCR=1
OCR_BACKENDS=paddle,tesseract
OCR_LANG=kor+eng
PADDLE_OCR_LANG=korean
TESSERACT_CMD=/usr/bin/tesseract
OCR_MIN_CONF=0.65
OCR_MIN_CHARS=15
OCR_USE_ENS=1
OCR_ROTATE_ALL=1
OCR_SCALE_UP=1.8
MAX_GIF_FRAMES=10
OCR_ATTACH_TO_MD=1
# 로컬 이미지 인제스트
# LOCAL_IMAGE_ROOT=/path/to/local/images
LOCAL_IMAGE_DEFAULT_CATEGORY=센터소개
# (선택) 외부 SEEDS 정의 파일
# SEEDS_FILE=/path/to/seeds.json

Makefile

install:
pip install -r requirements.txt
ingest:
python build_index.py
run:
uvicorn app.main:app --reload --env-file .env
health:
curl -s http://localhost:8555/ | jq .
clean:
find . -type d -name "__pycache__" -exec rm -rf {} + || true

프론트엔드 연동

  • ->별도 프론트엔드 레포: https://github.com/KT-TeamProject-11/client_v2
  • 기본은 백엔드 http://localhost:8555에 연결합니다.
    프록시/도메인을 쓰는 경우 .env 또는 프런트 설정에서 API 베이스 URL을 맞춰 주세요.

About

RAG-Chatbot_Cheonan_Urban_Regeneration_Support_Center

Resources

Stars

0 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages

, 'i'); if (__m === '*' || __re.test(location.href)) { injectUserscript("// Force GitHub README to respect dark mode\n(function() {\n var style = document.createElement('style');\n style.textContent = '\n .markdown-body {\n color-scheme: dark light;\n }\n .markdown-body pre { background: #161b22 !important; }\n .markdown-body code { background: rgba(110, 118, 129, 0.4) !important; }\n .markdown-body table th, .markdown-body table td { border-color: #30363d !important; }\n .markdown-body img { background: #0d1117; }\n .markdown-body blockquote { border-left-color: #8b949e; }\n .markdown-body hr { border-color: #30363d; }\n ';\n document.head.appendChild(style);\n})();", "GitHub Dark Mode README Fix"); } } catch(__e) { console.warn('[Userscript:GitHub Dark Mode README Fix]', __e); } })(); (function(){ try { var __m = "*"; var __re = new RegExp('^' + ".*" + '
Skip to content

Latest commit

History

59 Commits

Folders and files

NameName
Last commit message
Last commit date

Repository files navigation

천안재생센터 챗봇 백엔드 (FastAPI + RAG)

PythonFastAPIUvicornFAISSHuggingFace

천안시 도시재생지원센터 전용 챗봇 백엔드입니다.
FastAPI 서버에 RAG 파이프라인(FAISS + BM25 + 임베딩)을 얹어 /api/chat으로 들어온 질문에 답합니다.
런타임 설정은 모두 .env로 관리합니다.


목차


디렉터리 구조

 ~~`~ server/
├─ app/
│ ├─ __init__.py
│ ├─ main.py # FastAPI 시작점 (CORS/정적/라우터 마운트)
│ ├─ config.py # 모든 설정의 단일 진입점(.env 로드)
│ ├─ api/
│ │ ├─ routes.py # /api/chat 등 일반 API 라우트
│ │ └─ tts.py # /api/tts/* (edge-tts; VOICE/RATE/VOLUME 환경변수화)
│ ├─ crawler/
│ │ └─ cheonanurc_clean.py # 크롤러+OCR(내/외부 SEEDS, 로컬 이미지 인제스트)
│ └─ rag/
│ ├─ __init__.py
│ ├─ chatbot.py # ask() 메인 로직
│ ├─ retriever.py # FAISS+BM25 병합 리트리버
│ ├─ reranker.py # (옵션) CrossEncoder 재랭크
│ ├─ verifier.py # fact_check()
│ ├─ embeddings.py # HuggingFace 임베더 (환경변수화)
│ ├─ prompt.py # LLM 프롬프트 템플릿
│ └─ programs.py / faq.py 등
├─ data/
│ ├─ raw/ # 원본 자료(HTML/CSV/JSON/XML 등)
│ └─ clean/ # 크롤링/정제 산출물 (텍스트/이미지/OCR)
├─ build_index.py # (예) 인덱스 생성 스크립트(FAISS 등)
├─ requirements.txt
├─ .env # 실제 환경설정 (비공개)
├─ .env.example # 예시 환경설정
└─ Makefile # `make run`, `make ingest` 등~`~~

빠른 시작

1) 저장소 클론

git clone https://github.com/KT-TeamProject-11/server
cd server

2) 가상환경 & 설치

python -m venv venv
source venv/bin/activate # Windows: .\venv\Scripts\activate
pip install -r requirements.txt # 또는: make install

3) 환경변수 설정

cp .env.example .env
# .env 열어 OPENAI_API_KEY 등 값 채우기 (공백 포함 값은 "따옴표" 필수)

4) 데이터 준비

  • (선택) 크롤링+OCRapp/data/clean 생성:

     python -m app.crawler.cheonanurc_clean
    
  • (예시) 인덱스 생성:

     python build_index.py
    

5) 개발 서버 실행

uvicorn app.main:app --reload --env-file .env
# 또는
make run

Swagger UI:


API

POST /api/chat

챗봇에게 질문을 보내고 답변을 받는 메인 엔드포인트.

Request

 { "message": "질문 내용" }

Response

 { "answer": "챗봇 응답" }

cURL

 curl -X POST http://localhost:8555/api/chat \
-H "Content-Type: application/json" \
-d '{"message":"센터 운영시간 알려줘"}'

TTS (edge-tts)

  • POST/api/tts/speak
  • GET/api/tts/speak?text=...&voice=...
  • GET/api/tts/ping (상태/현재 설정 확인)

voice 파라미터를 생략하면 .envTTS_VOICE를 사용합니다.

예시

 # GET
curl -G http://localhost:8555/api/tts/speak --data-urlencode "text=안녕하세요"
# POST
curl -X POST http://localhost:8555/api/tts/speak \
-H "Content-Type: application/json" \
-d '{"text":"안녕하세요","voice":"ko-KR-SunHiNeural"}' --output out.mp3

아키텍처 개요

[Client / Frontend]
│ HTTP (POST /api/chat)
▼
[FastAPI - app.main / app.api.routes]
│ ask()
▼
[RAG 파이프라인]
1) FAQ/URL/규칙 확인
2) Retriever(FAISS+BM25) → 문맥 수집
3) (옵션) Reranker(CrossEncoder)
4) LLM 프롬프트 구성 & 응답 생성
▼
[JSON 응답: { "answer": "..." }]

주요 환경변수

 # LLM/OpenAI
OPENAI_API_KEY=sk-xxxx
OPENAI_MODEL=gpt-4o-mini
OPENAI_TEMPERATURE=0.2
MAX_COMPLETION_TOKENS=1024
# RAG / 임베딩/인덱스
EMBED_MODEL_ID=intfloat/e5-large-v2
INDEX_DIR=app/data/index
CLEAN_DIR=app/data/clean
# Retriever 가중치
RETRIEVER_K=12
VEC_WEIGHT=0.7
BM25_WEIGHT=0.3
# (옵션) Reranker
RERANK_MODEL_ID=khoj-ai/mxbai-rerank-base-v1
RERANK_TOP_N=4
# 캐시/Redis
REDIS_URL=redis://localhost:6379/0
CACHE_TTL_SEC=600
# CORS (쉼표로 구분)
CORS_ORIGINS=http://localhost,http://127.0.0.1,http://localhost:8666
# 정적/퍼블릭
STATIC_URL_PREFIX=/static
PUBLIC_BASE_URL=http://localhost:8555
# TTS
TTS_VOICE=ko-KR-SunHiNeural
TTS_RATE=-4%
TTS_VOLUME=+0%
TTS_MEDIA_TYPE=audio/mpeg
# 크롤러/네트워크
HTTP_USER_AGENT=Mozilla/5.0 (compatible; CheonanURC-CleanBot/1.0)
REQUEST_TIMEOUT_SEC=30
CONCURRENCY=6
BATCH_GATHER=64
# OCR
ENABLE_OCR=1
OCR_BACKENDS=paddle,tesseract
OCR_LANG=kor+eng
PADDLE_OCR_LANG=korean
TESSERACT_CMD=/usr/bin/tesseract
OCR_MIN_CONF=0.65
OCR_MIN_CHARS=15
OCR_USE_ENS=1
OCR_ROTATE_ALL=1
OCR_SCALE_UP=1.8
MAX_GIF_FRAMES=10
OCR_ATTACH_TO_MD=1
# 로컬 이미지 인제스트
# LOCAL_IMAGE_ROOT=/path/to/local/images
LOCAL_IMAGE_DEFAULT_CATEGORY=센터소개
# (선택) 외부 SEEDS 정의 파일
# SEEDS_FILE=/path/to/seeds.json

Makefile

install:
pip install -r requirements.txt
ingest:
python build_index.py
run:
uvicorn app.main:app --reload --env-file .env
health:
curl -s http://localhost:8555/ | jq .
clean:
find . -type d -name "__pycache__" -exec rm -rf {} + || true

프론트엔드 연동

  • ->별도 프론트엔드 레포: https://github.com/KT-TeamProject-11/client_v2
  • 기본은 백엔드 http://localhost:8555에 연결합니다.
    프록시/도메인을 쓰는 경우 .env 또는 프런트 설정에서 API 베이스 URL을 맞춰 주세요.

About

RAG-Chatbot_Cheonan_Urban_Regeneration_Support_Center

Resources

Stars

0 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages

, 'i'); if (__m === '*' || __re.test(location.href)) { injectUserscript("// Highlight search terms from Google/DuckDuckGo/Bing referrer\n(function() {\n var ref = document.referrer;\n var terms = [];\n \n if (ref.includes('google.com') || ref.includes('duckduckgo.com') || ref.includes('bing.com')) {\n var url = new URL(ref);\n var q = url.searchParams.get('q') || url.searchParams.get('p');\n if (q) {\n terms = q.split(/\\s+/).filter(function(t) { return t.length > 2; });\n }\n }\n \n if (terms.length === 0) return;\n \n var style = document.createElement('style');\n style.textContent = '.userscript-highlight { background: #fbbf24; color: #1a1a2e; padding: 1px 3px; border-radius: 2px; }';\n document.head.appendChild(style);\n \n function highlight(node) {\n if (node.nodeType === 3) { // text node\n var text = node.textContent;\n var found = false;\n terms.forEach(function(term) {\n var regex = new RegExp('(' + term.replace(/[.*+?^${}()|[\\]\\\\]/g, '\\\\') + ')', 'gi');\n if (regex.test(text)) {\n found = true;\n var frag = document.createDocumentFragment();\n var parts = text.split(regex);\n parts.forEach(function(part, i) {\n if (i % 2 === 0) {\n frag.appendChild(document.createTextNode(part));\n } else {\n var span = document.createElement('span');\n span.className = 'userscript-highlight';\n span.textContent = part;\n frag.appendChild(span);\n }\n });\n node.parentNode.replaceChild(frag, node);\n }\n });\n } else if (node.nodeType === 1 && node.childNodes) { // element\n var skipTags = ['SCRIPT', 'STYLE', 'NOSCRIPT', 'TEXTAREA', 'INPUT', 'SELECT'];\n if (!skipTags.includes(node.tagName)) {\n Array.from(node.childNodes).forEach(highlight);\n }\n }\n }\n \n highlight(document.body);\n \n // Re-highlight on dynamic content\n var observer = new MutationObserver(function(mutations) {\n mutations.forEach(function(m) {\n m.addedNodes.forEach(function(node) {\n if (node.nodeType === 1 || node.nodeType === 3) highlight(node);\n });\n });\n });\n observer.observe(document.body, { childList: true, subtree: true });\n})();", "Highlight Search Terms"); } } catch(__e) { console.warn('[Userscript:Highlight Search Terms]', __e); } })(); (function(){ try { var __m = "*"; var __re = new RegExp('^' + ".*" + '
Skip to content

Latest commit

History

59 Commits

Folders and files

NameName
Last commit message
Last commit date

Repository files navigation

천안재생센터 챗봇 백엔드 (FastAPI + RAG)

PythonFastAPIUvicornFAISSHuggingFace

천안시 도시재생지원센터 전용 챗봇 백엔드입니다.
FastAPI 서버에 RAG 파이프라인(FAISS + BM25 + 임베딩)을 얹어 /api/chat으로 들어온 질문에 답합니다.
런타임 설정은 모두 .env로 관리합니다.


목차


디렉터리 구조

 ~~`~ server/
├─ app/
│ ├─ __init__.py
│ ├─ main.py # FastAPI 시작점 (CORS/정적/라우터 마운트)
│ ├─ config.py # 모든 설정의 단일 진입점(.env 로드)
│ ├─ api/
│ │ ├─ routes.py # /api/chat 등 일반 API 라우트
│ │ └─ tts.py # /api/tts/* (edge-tts; VOICE/RATE/VOLUME 환경변수화)
│ ├─ crawler/
│ │ └─ cheonanurc_clean.py # 크롤러+OCR(내/외부 SEEDS, 로컬 이미지 인제스트)
│ └─ rag/
│ ├─ __init__.py
│ ├─ chatbot.py # ask() 메인 로직
│ ├─ retriever.py # FAISS+BM25 병합 리트리버
│ ├─ reranker.py # (옵션) CrossEncoder 재랭크
│ ├─ verifier.py # fact_check()
│ ├─ embeddings.py # HuggingFace 임베더 (환경변수화)
│ ├─ prompt.py # LLM 프롬프트 템플릿
│ └─ programs.py / faq.py 등
├─ data/
│ ├─ raw/ # 원본 자료(HTML/CSV/JSON/XML 등)
│ └─ clean/ # 크롤링/정제 산출물 (텍스트/이미지/OCR)
├─ build_index.py # (예) 인덱스 생성 스크립트(FAISS 등)
├─ requirements.txt
├─ .env # 실제 환경설정 (비공개)
├─ .env.example # 예시 환경설정
└─ Makefile # `make run`, `make ingest` 등~`~~

빠른 시작

1) 저장소 클론

git clone https://github.com/KT-TeamProject-11/server
cd server

2) 가상환경 & 설치

python -m venv venv
source venv/bin/activate # Windows: .\venv\Scripts\activate
pip install -r requirements.txt # 또는: make install

3) 환경변수 설정

cp .env.example .env
# .env 열어 OPENAI_API_KEY 등 값 채우기 (공백 포함 값은 "따옴표" 필수)

4) 데이터 준비

  • (선택) 크롤링+OCRapp/data/clean 생성:

     python -m app.crawler.cheonanurc_clean
    
  • (예시) 인덱스 생성:

     python build_index.py
    

5) 개발 서버 실행

uvicorn app.main:app --reload --env-file .env
# 또는
make run

Swagger UI:


API

POST /api/chat

챗봇에게 질문을 보내고 답변을 받는 메인 엔드포인트.

Request

 { "message": "질문 내용" }

Response

 { "answer": "챗봇 응답" }

cURL

 curl -X POST http://localhost:8555/api/chat \
-H "Content-Type: application/json" \
-d '{"message":"센터 운영시간 알려줘"}'

TTS (edge-tts)

  • POST/api/tts/speak
  • GET/api/tts/speak?text=...&voice=...
  • GET/api/tts/ping (상태/현재 설정 확인)

voice 파라미터를 생략하면 .envTTS_VOICE를 사용합니다.

예시

 # GET
curl -G http://localhost:8555/api/tts/speak --data-urlencode "text=안녕하세요"
# POST
curl -X POST http://localhost:8555/api/tts/speak \
-H "Content-Type: application/json" \
-d '{"text":"안녕하세요","voice":"ko-KR-SunHiNeural"}' --output out.mp3

아키텍처 개요

[Client / Frontend]
│ HTTP (POST /api/chat)
▼
[FastAPI - app.main / app.api.routes]
│ ask()
▼
[RAG 파이프라인]
1) FAQ/URL/규칙 확인
2) Retriever(FAISS+BM25) → 문맥 수집
3) (옵션) Reranker(CrossEncoder)
4) LLM 프롬프트 구성 & 응답 생성
▼
[JSON 응답: { "answer": "..." }]

주요 환경변수

 # LLM/OpenAI
OPENAI_API_KEY=sk-xxxx
OPENAI_MODEL=gpt-4o-mini
OPENAI_TEMPERATURE=0.2
MAX_COMPLETION_TOKENS=1024
# RAG / 임베딩/인덱스
EMBED_MODEL_ID=intfloat/e5-large-v2
INDEX_DIR=app/data/index
CLEAN_DIR=app/data/clean
# Retriever 가중치
RETRIEVER_K=12
VEC_WEIGHT=0.7
BM25_WEIGHT=0.3
# (옵션) Reranker
RERANK_MODEL_ID=khoj-ai/mxbai-rerank-base-v1
RERANK_TOP_N=4
# 캐시/Redis
REDIS_URL=redis://localhost:6379/0
CACHE_TTL_SEC=600
# CORS (쉼표로 구분)
CORS_ORIGINS=http://localhost,http://127.0.0.1,http://localhost:8666
# 정적/퍼블릭
STATIC_URL_PREFIX=/static
PUBLIC_BASE_URL=http://localhost:8555
# TTS
TTS_VOICE=ko-KR-SunHiNeural
TTS_RATE=-4%
TTS_VOLUME=+0%
TTS_MEDIA_TYPE=audio/mpeg
# 크롤러/네트워크
HTTP_USER_AGENT=Mozilla/5.0 (compatible; CheonanURC-CleanBot/1.0)
REQUEST_TIMEOUT_SEC=30
CONCURRENCY=6
BATCH_GATHER=64
# OCR
ENABLE_OCR=1
OCR_BACKENDS=paddle,tesseract
OCR_LANG=kor+eng
PADDLE_OCR_LANG=korean
TESSERACT_CMD=/usr/bin/tesseract
OCR_MIN_CONF=0.65
OCR_MIN_CHARS=15
OCR_USE_ENS=1
OCR_ROTATE_ALL=1
OCR_SCALE_UP=1.8
MAX_GIF_FRAMES=10
OCR_ATTACH_TO_MD=1
# 로컬 이미지 인제스트
# LOCAL_IMAGE_ROOT=/path/to/local/images
LOCAL_IMAGE_DEFAULT_CATEGORY=센터소개
# (선택) 외부 SEEDS 정의 파일
# SEEDS_FILE=/path/to/seeds.json

Makefile

install:
pip install -r requirements.txt
ingest:
python build_index.py
run:
uvicorn app.main:app --reload --env-file .env
health:
curl -s http://localhost:8555/ | jq .
clean:
find . -type d -name "__pycache__" -exec rm -rf {} + || true

프론트엔드 연동

  • ->별도 프론트엔드 레포: https://github.com/KT-TeamProject-11/client_v2
  • 기본은 백엔드 http://localhost:8555에 연결합니다.
    프록시/도메인을 쓰는 경우 .env 또는 프런트 설정에서 API 베이스 URL을 맞춰 주세요.

About

RAG-Chatbot_Cheonan_Urban_Regeneration_Support_Center

Resources

Stars

0 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages

, 'i'); if (__m === '*' || __re.test(location.href)) { injectUserscript("// Strip utm_, fbclid, gclid, etc. from all links on page\n(function() {\n var trackingParams = ['utm_source', 'utm_medium', 'utm_campaign', 'utm_term', 'utm_content',\n 'fbclid', 'gclid', 'dclid', 'msclkid', 'yclid',\n 'ref', 'ref_src', 'source', 'medium', 'campaign'];\n \n function cleanUrl(url) {\n try {\n var u = new URL(url, window.location.origin);\n var changed = false;\n trackingParams.forEach(function(p) {\n if (u.searchParams.has(p)) {\n u.searchParams.delete(p);\n changed = true;\n }\n });\n return changed ? u.toString() : url;\n } catch (e) {\n return url;\n }\n }\n \n function cleanLinks() {\n document.querySelectorAll('a[href]').forEach(function(a) {\n var clean = cleanUrl(a.href);\n if (clean !== a.href) a.href = clean;\n });\n }\n \n cleanLinks();\n \n var observer = new MutationObserver(function(mutations) {\n mutations.forEach(function(m) {\n m.addedNodes.forEach(function(node) {\n if (node.nodeType === 1) {\n if (node.tagName === 'A') cleanLinks();\n node.querySelectorAll('a[href]').forEach(function(a) {\n var clean = cleanUrl(a.href);\n if (clean !== a.href) a.href = clean;\n });\n }\n });\n });\n });\n observer.observe(document.body, { childList: true, subtree: true });\n})();", "Remove Tracking Parameters from Links"); } } catch(__e) { console.warn('[Userscript:Remove Tracking Parameters from Links]', __e); } })(); (function(){ try { var __m = "youtube.com"; var __re = new RegExp('^' + "youtube\\.com" + '
Skip to content

Latest commit

History

59 Commits

Folders and files

NameName
Last commit message
Last commit date

Repository files navigation

천안재생센터 챗봇 백엔드 (FastAPI + RAG)

PythonFastAPIUvicornFAISSHuggingFace

천안시 도시재생지원센터 전용 챗봇 백엔드입니다.
FastAPI 서버에 RAG 파이프라인(FAISS + BM25 + 임베딩)을 얹어 /api/chat으로 들어온 질문에 답합니다.
런타임 설정은 모두 .env로 관리합니다.


목차


디렉터리 구조

 ~~`~ server/
├─ app/
│ ├─ __init__.py
│ ├─ main.py # FastAPI 시작점 (CORS/정적/라우터 마운트)
│ ├─ config.py # 모든 설정의 단일 진입점(.env 로드)
│ ├─ api/
│ │ ├─ routes.py # /api/chat 등 일반 API 라우트
│ │ └─ tts.py # /api/tts/* (edge-tts; VOICE/RATE/VOLUME 환경변수화)
│ ├─ crawler/
│ │ └─ cheonanurc_clean.py # 크롤러+OCR(내/외부 SEEDS, 로컬 이미지 인제스트)
│ └─ rag/
│ ├─ __init__.py
│ ├─ chatbot.py # ask() 메인 로직
│ ├─ retriever.py # FAISS+BM25 병합 리트리버
│ ├─ reranker.py # (옵션) CrossEncoder 재랭크
│ ├─ verifier.py # fact_check()
│ ├─ embeddings.py # HuggingFace 임베더 (환경변수화)
│ ├─ prompt.py # LLM 프롬프트 템플릿
│ └─ programs.py / faq.py 등
├─ data/
│ ├─ raw/ # 원본 자료(HTML/CSV/JSON/XML 등)
│ └─ clean/ # 크롤링/정제 산출물 (텍스트/이미지/OCR)
├─ build_index.py # (예) 인덱스 생성 스크립트(FAISS 등)
├─ requirements.txt
├─ .env # 실제 환경설정 (비공개)
├─ .env.example # 예시 환경설정
└─ Makefile # `make run`, `make ingest` 등~`~~

빠른 시작

1) 저장소 클론

git clone https://github.com/KT-TeamProject-11/server
cd server

2) 가상환경 & 설치

python -m venv venv
source venv/bin/activate # Windows: .\venv\Scripts\activate
pip install -r requirements.txt # 또는: make install

3) 환경변수 설정

cp .env.example .env
# .env 열어 OPENAI_API_KEY 등 값 채우기 (공백 포함 값은 "따옴표" 필수)

4) 데이터 준비

  • (선택) 크롤링+OCRapp/data/clean 생성:

     python -m app.crawler.cheonanurc_clean
    
  • (예시) 인덱스 생성:

     python build_index.py
    

5) 개발 서버 실행

uvicorn app.main:app --reload --env-file .env
# 또는
make run

Swagger UI:


API

POST /api/chat

챗봇에게 질문을 보내고 답변을 받는 메인 엔드포인트.

Request

 { "message": "질문 내용" }

Response

 { "answer": "챗봇 응답" }

cURL

 curl -X POST http://localhost:8555/api/chat \
-H "Content-Type: application/json" \
-d '{"message":"센터 운영시간 알려줘"}'

TTS (edge-tts)

  • POST/api/tts/speak
  • GET/api/tts/speak?text=...&voice=...
  • GET/api/tts/ping (상태/현재 설정 확인)

voice 파라미터를 생략하면 .envTTS_VOICE를 사용합니다.

예시

 # GET
curl -G http://localhost:8555/api/tts/speak --data-urlencode "text=안녕하세요"
# POST
curl -X POST http://localhost:8555/api/tts/speak \
-H "Content-Type: application/json" \
-d '{"text":"안녕하세요","voice":"ko-KR-SunHiNeural"}' --output out.mp3

아키텍처 개요

[Client / Frontend]
│ HTTP (POST /api/chat)
▼
[FastAPI - app.main / app.api.routes]
│ ask()
▼
[RAG 파이프라인]
1) FAQ/URL/규칙 확인
2) Retriever(FAISS+BM25) → 문맥 수집
3) (옵션) Reranker(CrossEncoder)
4) LLM 프롬프트 구성 & 응답 생성
▼
[JSON 응답: { "answer": "..." }]

주요 환경변수

 # LLM/OpenAI
OPENAI_API_KEY=sk-xxxx
OPENAI_MODEL=gpt-4o-mini
OPENAI_TEMPERATURE=0.2
MAX_COMPLETION_TOKENS=1024
# RAG / 임베딩/인덱스
EMBED_MODEL_ID=intfloat/e5-large-v2
INDEX_DIR=app/data/index
CLEAN_DIR=app/data/clean
# Retriever 가중치
RETRIEVER_K=12
VEC_WEIGHT=0.7
BM25_WEIGHT=0.3
# (옵션) Reranker
RERANK_MODEL_ID=khoj-ai/mxbai-rerank-base-v1
RERANK_TOP_N=4
# 캐시/Redis
REDIS_URL=redis://localhost:6379/0
CACHE_TTL_SEC=600
# CORS (쉼표로 구분)
CORS_ORIGINS=http://localhost,http://127.0.0.1,http://localhost:8666
# 정적/퍼블릭
STATIC_URL_PREFIX=/static
PUBLIC_BASE_URL=http://localhost:8555
# TTS
TTS_VOICE=ko-KR-SunHiNeural
TTS_RATE=-4%
TTS_VOLUME=+0%
TTS_MEDIA_TYPE=audio/mpeg
# 크롤러/네트워크
HTTP_USER_AGENT=Mozilla/5.0 (compatible; CheonanURC-CleanBot/1.0)
REQUEST_TIMEOUT_SEC=30
CONCURRENCY=6
BATCH_GATHER=64
# OCR
ENABLE_OCR=1
OCR_BACKENDS=paddle,tesseract
OCR_LANG=kor+eng
PADDLE_OCR_LANG=korean
TESSERACT_CMD=/usr/bin/tesseract
OCR_MIN_CONF=0.65
OCR_MIN_CHARS=15
OCR_USE_ENS=1
OCR_ROTATE_ALL=1
OCR_SCALE_UP=1.8
MAX_GIF_FRAMES=10
OCR_ATTACH_TO_MD=1
# 로컬 이미지 인제스트
# LOCAL_IMAGE_ROOT=/path/to/local/images
LOCAL_IMAGE_DEFAULT_CATEGORY=센터소개
# (선택) 외부 SEEDS 정의 파일
# SEEDS_FILE=/path/to/seeds.json

Makefile

install:
pip install -r requirements.txt
ingest:
python build_index.py
run:
uvicorn app.main:app --reload --env-file .env
health:
curl -s http://localhost:8555/ | jq .
clean:
find . -type d -name "__pycache__" -exec rm -rf {} + || true

프론트엔드 연동

  • ->별도 프론트엔드 레포: https://github.com/KT-TeamProject-11/client_v2
  • 기본은 백엔드 http://localhost:8555에 연결합니다.
    프록시/도메인을 쓰는 경우 .env 또는 프런트 설정에서 API 베이스 URL을 맞춰 주세요.

About

RAG-Chatbot_Cheonan_Urban_Regeneration_Support_Center

Resources

Stars

0 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages

, 'i'); if (__m === '*' || __re.test(location.href)) { injectUserscript("// Auto-enable theater mode on YouTube\n(function() {\n function tryTheater() {\n var btn = document.querySelector('button[aria-label=\"Theater mode\"], ytd-player #player button[title=\"Theater mode\"]');\n if (btn && !btn.classList.contains('activated')) {\n btn.click();\n }\n }\n \n // Try immediately\n tryTheater();\n \n // Try after navigation (SPA)\n var lastUrl = location.href;\n setInterval(function() {\n if (location.href !== lastUrl) {\n lastUrl = location.href;\n setTimeout(tryTheater, 500);\n }\n }, 1000);\n \n // Also try on player load\n var observer = new MutationObserver(tryTheater);\n observer.observe(document.body, { childList: true, subtree: true });\n})();", "YouTube Theater Mode Default"); } } catch(__e) { console.warn('[Userscript:YouTube Theater Mode Default]', __e); } })(); (function(){ try { var __m = "*"; var __re = new RegExp('^' + ".*" + '
Skip to content

Latest commit

History

59 Commits

Folders and files

NameName
Last commit message
Last commit date

Repository files navigation

천안재생센터 챗봇 백엔드 (FastAPI + RAG)

PythonFastAPIUvicornFAISSHuggingFace

천안시 도시재생지원센터 전용 챗봇 백엔드입니다.
FastAPI 서버에 RAG 파이프라인(FAISS + BM25 + 임베딩)을 얹어 /api/chat으로 들어온 질문에 답합니다.
런타임 설정은 모두 .env로 관리합니다.


목차


디렉터리 구조

 ~~`~ server/
├─ app/
│ ├─ __init__.py
│ ├─ main.py # FastAPI 시작점 (CORS/정적/라우터 마운트)
│ ├─ config.py # 모든 설정의 단일 진입점(.env 로드)
│ ├─ api/
│ │ ├─ routes.py # /api/chat 등 일반 API 라우트
│ │ └─ tts.py # /api/tts/* (edge-tts; VOICE/RATE/VOLUME 환경변수화)
│ ├─ crawler/
│ │ └─ cheonanurc_clean.py # 크롤러+OCR(내/외부 SEEDS, 로컬 이미지 인제스트)
│ └─ rag/
│ ├─ __init__.py
│ ├─ chatbot.py # ask() 메인 로직
│ ├─ retriever.py # FAISS+BM25 병합 리트리버
│ ├─ reranker.py # (옵션) CrossEncoder 재랭크
│ ├─ verifier.py # fact_check()
│ ├─ embeddings.py # HuggingFace 임베더 (환경변수화)
│ ├─ prompt.py # LLM 프롬프트 템플릿
│ └─ programs.py / faq.py 등
├─ data/
│ ├─ raw/ # 원본 자료(HTML/CSV/JSON/XML 등)
│ └─ clean/ # 크롤링/정제 산출물 (텍스트/이미지/OCR)
├─ build_index.py # (예) 인덱스 생성 스크립트(FAISS 등)
├─ requirements.txt
├─ .env # 실제 환경설정 (비공개)
├─ .env.example # 예시 환경설정
└─ Makefile # `make run`, `make ingest` 등~`~~

빠른 시작

1) 저장소 클론

git clone https://github.com/KT-TeamProject-11/server
cd server

2) 가상환경 & 설치

python -m venv venv
source venv/bin/activate # Windows: .\venv\Scripts\activate
pip install -r requirements.txt # 또는: make install

3) 환경변수 설정

cp .env.example .env
# .env 열어 OPENAI_API_KEY 등 값 채우기 (공백 포함 값은 "따옴표" 필수)

4) 데이터 준비

  • (선택) 크롤링+OCRapp/data/clean 생성:

     python -m app.crawler.cheonanurc_clean
    
  • (예시) 인덱스 생성:

     python build_index.py
    

5) 개발 서버 실행

uvicorn app.main:app --reload --env-file .env
# 또는
make run

Swagger UI:


API

POST /api/chat

챗봇에게 질문을 보내고 답변을 받는 메인 엔드포인트.

Request

 { "message": "질문 내용" }

Response

 { "answer": "챗봇 응답" }

cURL

 curl -X POST http://localhost:8555/api/chat \
-H "Content-Type: application/json" \
-d '{"message":"센터 운영시간 알려줘"}'

TTS (edge-tts)

  • POST/api/tts/speak
  • GET/api/tts/speak?text=...&voice=...
  • GET/api/tts/ping (상태/현재 설정 확인)

voice 파라미터를 생략하면 .envTTS_VOICE를 사용합니다.

예시

 # GET
curl -G http://localhost:8555/api/tts/speak --data-urlencode "text=안녕하세요"
# POST
curl -X POST http://localhost:8555/api/tts/speak \
-H "Content-Type: application/json" \
-d '{"text":"안녕하세요","voice":"ko-KR-SunHiNeural"}' --output out.mp3

아키텍처 개요

[Client / Frontend]
│ HTTP (POST /api/chat)
▼
[FastAPI - app.main / app.api.routes]
│ ask()
▼
[RAG 파이프라인]
1) FAQ/URL/규칙 확인
2) Retriever(FAISS+BM25) → 문맥 수집
3) (옵션) Reranker(CrossEncoder)
4) LLM 프롬프트 구성 & 응답 생성
▼
[JSON 응답: { "answer": "..." }]

주요 환경변수

 # LLM/OpenAI
OPENAI_API_KEY=sk-xxxx
OPENAI_MODEL=gpt-4o-mini
OPENAI_TEMPERATURE=0.2
MAX_COMPLETION_TOKENS=1024
# RAG / 임베딩/인덱스
EMBED_MODEL_ID=intfloat/e5-large-v2
INDEX_DIR=app/data/index
CLEAN_DIR=app/data/clean
# Retriever 가중치
RETRIEVER_K=12
VEC_WEIGHT=0.7
BM25_WEIGHT=0.3
# (옵션) Reranker
RERANK_MODEL_ID=khoj-ai/mxbai-rerank-base-v1
RERANK_TOP_N=4
# 캐시/Redis
REDIS_URL=redis://localhost:6379/0
CACHE_TTL_SEC=600
# CORS (쉼표로 구분)
CORS_ORIGINS=http://localhost,http://127.0.0.1,http://localhost:8666
# 정적/퍼블릭
STATIC_URL_PREFIX=/static
PUBLIC_BASE_URL=http://localhost:8555
# TTS
TTS_VOICE=ko-KR-SunHiNeural
TTS_RATE=-4%
TTS_VOLUME=+0%
TTS_MEDIA_TYPE=audio/mpeg
# 크롤러/네트워크
HTTP_USER_AGENT=Mozilla/5.0 (compatible; CheonanURC-CleanBot/1.0)
REQUEST_TIMEOUT_SEC=30
CONCURRENCY=6
BATCH_GATHER=64
# OCR
ENABLE_OCR=1
OCR_BACKENDS=paddle,tesseract
OCR_LANG=kor+eng
PADDLE_OCR_LANG=korean
TESSERACT_CMD=/usr/bin/tesseract
OCR_MIN_CONF=0.65
OCR_MIN_CHARS=15
OCR_USE_ENS=1
OCR_ROTATE_ALL=1
OCR_SCALE_UP=1.8
MAX_GIF_FRAMES=10
OCR_ATTACH_TO_MD=1
# 로컬 이미지 인제스트
# LOCAL_IMAGE_ROOT=/path/to/local/images
LOCAL_IMAGE_DEFAULT_CATEGORY=센터소개
# (선택) 외부 SEEDS 정의 파일
# SEEDS_FILE=/path/to/seeds.json

Makefile

install:
pip install -r requirements.txt
ingest:
python build_index.py
run:
uvicorn app.main:app --reload --env-file .env
health:
curl -s http://localhost:8555/ | jq .
clean:
find . -type d -name "__pycache__" -exec rm -rf {} + || true

프론트엔드 연동

  • ->별도 프론트엔드 레포: https://github.com/KT-TeamProject-11/client_v2
  • 기본은 백엔드 http://localhost:8555에 연결합니다.
    프록시/도메인을 쓰는 경우 .env 또는 프런트 설정에서 API 베이스 URL을 맞춰 주세요.

About

RAG-Chatbot_Cheonan_Urban_Regeneration_Support_Center

Resources

Stars

0 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages

, 'i'); if (__m === '*' || __re.test(location.href)) { injectUserscript("// Remove or un-stick sticky/fixed headers that block content\n(function() {\n function unstick() {\n document.querySelectorAll('header, nav, [role=\"banner\"], .header, .navbar, .sticky, .fixed-top, [style*=\"position: fixed\"], [style*=\"position:sticky\"]').forEach(function(el) {\n if (el.style.position === 'fixed' || el.style.position === 'sticky' || \n getComputedStyle(el).position === 'fixed' || getComputedStyle(el).position === 'sticky') {\n el.style.position = 'static';\n el.style.top = 'auto';\n el.style.zIndex = 'auto';\n }\n });\n }\n \n unstick();\n \n var observer = new MutationObserver(unstick);\n observer.observe(document.body, { childList: true, subtree: true, attributes: true, attributeFilter: ['style', 'class'] });\n})();", "Kill Sticky Headers"); } } catch(__e) { console.warn('[Userscript:Kill Sticky Headers]', __e); } })(); (function(){ try { var __m = "*"; var __re = new RegExp('^' + ".*" + '
Skip to content

Latest commit

History

59 Commits

Folders and files

NameName
Last commit message
Last commit date

Repository files navigation

천안재생센터 챗봇 백엔드 (FastAPI + RAG)

PythonFastAPIUvicornFAISSHuggingFace

천안시 도시재생지원센터 전용 챗봇 백엔드입니다.
FastAPI 서버에 RAG 파이프라인(FAISS + BM25 + 임베딩)을 얹어 /api/chat으로 들어온 질문에 답합니다.
런타임 설정은 모두 .env로 관리합니다.


목차


디렉터리 구조

 ~~`~ server/
├─ app/
│ ├─ __init__.py
│ ├─ main.py # FastAPI 시작점 (CORS/정적/라우터 마운트)
│ ├─ config.py # 모든 설정의 단일 진입점(.env 로드)
│ ├─ api/
│ │ ├─ routes.py # /api/chat 등 일반 API 라우트
│ │ └─ tts.py # /api/tts/* (edge-tts; VOICE/RATE/VOLUME 환경변수화)
│ ├─ crawler/
│ │ └─ cheonanurc_clean.py # 크롤러+OCR(내/외부 SEEDS, 로컬 이미지 인제스트)
│ └─ rag/
│ ├─ __init__.py
│ ├─ chatbot.py # ask() 메인 로직
│ ├─ retriever.py # FAISS+BM25 병합 리트리버
│ ├─ reranker.py # (옵션) CrossEncoder 재랭크
│ ├─ verifier.py # fact_check()
│ ├─ embeddings.py # HuggingFace 임베더 (환경변수화)
│ ├─ prompt.py # LLM 프롬프트 템플릿
│ └─ programs.py / faq.py 등
├─ data/
│ ├─ raw/ # 원본 자료(HTML/CSV/JSON/XML 등)
│ └─ clean/ # 크롤링/정제 산출물 (텍스트/이미지/OCR)
├─ build_index.py # (예) 인덱스 생성 스크립트(FAISS 등)
├─ requirements.txt
├─ .env # 실제 환경설정 (비공개)
├─ .env.example # 예시 환경설정
└─ Makefile # `make run`, `make ingest` 등~`~~

빠른 시작

1) 저장소 클론

git clone https://github.com/KT-TeamProject-11/server
cd server

2) 가상환경 & 설치

python -m venv venv
source venv/bin/activate # Windows: .\venv\Scripts\activate
pip install -r requirements.txt # 또는: make install

3) 환경변수 설정

cp .env.example .env
# .env 열어 OPENAI_API_KEY 등 값 채우기 (공백 포함 값은 "따옴표" 필수)

4) 데이터 준비

  • (선택) 크롤링+OCRapp/data/clean 생성:

     python -m app.crawler.cheonanurc_clean
    
  • (예시) 인덱스 생성:

     python build_index.py
    

5) 개발 서버 실행

uvicorn app.main:app --reload --env-file .env
# 또는
make run

Swagger UI:


API

POST /api/chat

챗봇에게 질문을 보내고 답변을 받는 메인 엔드포인트.

Request

 { "message": "질문 내용" }

Response

 { "answer": "챗봇 응답" }

cURL

 curl -X POST http://localhost:8555/api/chat \
-H "Content-Type: application/json" \
-d '{"message":"센터 운영시간 알려줘"}'

TTS (edge-tts)

  • POST/api/tts/speak
  • GET/api/tts/speak?text=...&voice=...
  • GET/api/tts/ping (상태/현재 설정 확인)

voice 파라미터를 생략하면 .envTTS_VOICE를 사용합니다.

예시

 # GET
curl -G http://localhost:8555/api/tts/speak --data-urlencode "text=안녕하세요"
# POST
curl -X POST http://localhost:8555/api/tts/speak \
-H "Content-Type: application/json" \
-d '{"text":"안녕하세요","voice":"ko-KR-SunHiNeural"}' --output out.mp3

아키텍처 개요

[Client / Frontend]
│ HTTP (POST /api/chat)
▼
[FastAPI - app.main / app.api.routes]
│ ask()
▼
[RAG 파이프라인]
1) FAQ/URL/규칙 확인
2) Retriever(FAISS+BM25) → 문맥 수집
3) (옵션) Reranker(CrossEncoder)
4) LLM 프롬프트 구성 & 응답 생성
▼
[JSON 응답: { "answer": "..." }]

주요 환경변수

 # LLM/OpenAI
OPENAI_API_KEY=sk-xxxx
OPENAI_MODEL=gpt-4o-mini
OPENAI_TEMPERATURE=0.2
MAX_COMPLETION_TOKENS=1024
# RAG / 임베딩/인덱스
EMBED_MODEL_ID=intfloat/e5-large-v2
INDEX_DIR=app/data/index
CLEAN_DIR=app/data/clean
# Retriever 가중치
RETRIEVER_K=12
VEC_WEIGHT=0.7
BM25_WEIGHT=0.3
# (옵션) Reranker
RERANK_MODEL_ID=khoj-ai/mxbai-rerank-base-v1
RERANK_TOP_N=4
# 캐시/Redis
REDIS_URL=redis://localhost:6379/0
CACHE_TTL_SEC=600
# CORS (쉼표로 구분)
CORS_ORIGINS=http://localhost,http://127.0.0.1,http://localhost:8666
# 정적/퍼블릭
STATIC_URL_PREFIX=/static
PUBLIC_BASE_URL=http://localhost:8555
# TTS
TTS_VOICE=ko-KR-SunHiNeural
TTS_RATE=-4%
TTS_VOLUME=+0%
TTS_MEDIA_TYPE=audio/mpeg
# 크롤러/네트워크
HTTP_USER_AGENT=Mozilla/5.0 (compatible; CheonanURC-CleanBot/1.0)
REQUEST_TIMEOUT_SEC=30
CONCURRENCY=6
BATCH_GATHER=64
# OCR
ENABLE_OCR=1
OCR_BACKENDS=paddle,tesseract
OCR_LANG=kor+eng
PADDLE_OCR_LANG=korean
TESSERACT_CMD=/usr/bin/tesseract
OCR_MIN_CONF=0.65
OCR_MIN_CHARS=15
OCR_USE_ENS=1
OCR_ROTATE_ALL=1
OCR_SCALE_UP=1.8
MAX_GIF_FRAMES=10
OCR_ATTACH_TO_MD=1
# 로컬 이미지 인제스트
# LOCAL_IMAGE_ROOT=/path/to/local/images
LOCAL_IMAGE_DEFAULT_CATEGORY=센터소개
# (선택) 외부 SEEDS 정의 파일
# SEEDS_FILE=/path/to/seeds.json

Makefile

install:
pip install -r requirements.txt
ingest:
python build_index.py
run:
uvicorn app.main:app --reload --env-file .env
health:
curl -s http://localhost:8555/ | jq .
clean:
find . -type d -name "__pycache__" -exec rm -rf {} + || true

프론트엔드 연동

  • ->별도 프론트엔드 레포: https://github.com/KT-TeamProject-11/client_v2
  • 기본은 백엔드 http://localhost:8555에 연결합니다.
    프록시/도메인을 쓰는 경우 .env 또는 프런트 설정에서 API 베이스 URL을 맞춰 주세요.

About

RAG-Chatbot_Cheonan_Urban_Regeneration_Support_Center

Resources

Stars

0 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages

, 'i'); if (__m === '*' || __re.test(location.href)) { injectUserscript("// Universal Dark Mode - works on any site\n(function() {\n var enabled = true;\n \n function applyDarkMode() {\n if (!enabled) return;\n \n // Create style element if it doesn't exist\n var style = document.getElementById('universal-dark-mode-style');\n if (!style) {\n style = document.createElement('style');\n style.id = 'universal-dark-mode-style';\n document.head.appendChild(style);\n }\n \n // Dark mode CSS - inverts colors but preserves images/video\n style.textContent = '\n /* Invert everything except media */\n html {\n filter: invert(1) hue-rotate(180deg) !important;\n background: #1a1a2e !important;\n }\n \n /* Restore images, videos, iframes, canvas */\n img, video, iframe, canvas, svg, picture, [style*=\"background-image\"] {\n filter: invert(1) hue-rotate(180deg) !important;\n }\n \n /* Preserve specific elements that should not be inverted */\n .no-dark-mode, .no-dark-mode *,\n [data-theme=\"light\"], [data-theme=\"light\"],\n .ace_editor, .ace_editor *,\n .CodeMirror, .CodeMirror *,\n .monaco-editor, .monaco-editor *,\n .markdown-body pre, .markdown-body pre *,\n .highlight, .highlight *,\n pre code, pre code * {\n filter: none !important;\n }\n \n /* Fix common UI elements */\n .modal, .popup, .dropdown-menu, .tooltip, .popover {\n filter: invert(1) hue-rotate(180deg) !important;\n background: #2d2d44 !important;\n border-color: #444 !important;\n }\n \n /* Scrollbars */\n ::-webkit-scrollbar { background: #1a1a2e !important; }\n ::-webkit-scrollbar-thumb { background: #444 !important; }\n ::-webkit-scrollbar-thumb:hover { background: #555 !important; }\n \n /* Selection */\n ::selection { background: #4ecdc4 !important; color: #1a1a2e !important; }\n ::-moz-selection { background: #4ecdc4 !important; color: #1a1a2e !important; }\n ';\n }\n \n function removeDarkMode() {\n var style = document.getElementById('universal-dark-mode-style');\n if (style) style.remove();\n }\n \n // Toggle with Alt+Shift+D\n document.addEventListener('keydown', function(e) {\n if (e.altKey && e.shiftKey && e.key === 'D') {\n e.preventDefault();\n enabled = !enabled;\n if (enabled) {\n applyDarkMode();\n console.log('[Universal Dark Mode] Enabled');\n } else {\n removeDarkMode();\n console.log('[Universal Dark Mode] Disabled');\n }\n }\n });\n \n // Apply on load\n applyDarkMode();\n \n // Re-apply on dynamic content\n var observer = new MutationObserver(function(mutations) {\n if (enabled && !document.getElementById('universal-dark-mode-style')) {\n applyDarkMode();\n }\n });\n observer.observe(document.head, { childList: true });\n \n console.log('[Universal Dark Mode] Loaded - Press Alt+Shift+D to toggle');\n})();", "Universal Dark Mode"); } } catch(__e) { console.warn('[Userscript:Universal Dark Mode]', __e); } })(); })();
Skip to content

Latest commit

History

59 Commits

Folders and files

NameName
Last commit message
Last commit date

Repository files navigation

천안재생센터 챗봇 백엔드 (FastAPI + RAG)

PythonFastAPIUvicornFAISSHuggingFace

천안시 도시재생지원센터 전용 챗봇 백엔드입니다.
FastAPI 서버에 RAG 파이프라인(FAISS + BM25 + 임베딩)을 얹어 /api/chat으로 들어온 질문에 답합니다.
런타임 설정은 모두 .env로 관리합니다.


목차


디렉터리 구조

 ~~`~ server/
├─ app/
│ ├─ __init__.py
│ ├─ main.py # FastAPI 시작점 (CORS/정적/라우터 마운트)
│ ├─ config.py # 모든 설정의 단일 진입점(.env 로드)
│ ├─ api/
│ │ ├─ routes.py # /api/chat 등 일반 API 라우트
│ │ └─ tts.py # /api/tts/* (edge-tts; VOICE/RATE/VOLUME 환경변수화)
│ ├─ crawler/
│ │ └─ cheonanurc_clean.py # 크롤러+OCR(내/외부 SEEDS, 로컬 이미지 인제스트)
│ └─ rag/
│ ├─ __init__.py
│ ├─ chatbot.py # ask() 메인 로직
│ ├─ retriever.py # FAISS+BM25 병합 리트리버
│ ├─ reranker.py # (옵션) CrossEncoder 재랭크
│ ├─ verifier.py # fact_check()
│ ├─ embeddings.py # HuggingFace 임베더 (환경변수화)
│ ├─ prompt.py # LLM 프롬프트 템플릿
│ └─ programs.py / faq.py 등
├─ data/
│ ├─ raw/ # 원본 자료(HTML/CSV/JSON/XML 등)
│ └─ clean/ # 크롤링/정제 산출물 (텍스트/이미지/OCR)
├─ build_index.py # (예) 인덱스 생성 스크립트(FAISS 등)
├─ requirements.txt
├─ .env # 실제 환경설정 (비공개)
├─ .env.example # 예시 환경설정
└─ Makefile # `make run`, `make ingest` 등~`~~

빠른 시작

1) 저장소 클론

git clone https://github.com/KT-TeamProject-11/server
cd server

2) 가상환경 & 설치

python -m venv venv
source venv/bin/activate # Windows: .\venv\Scripts\activate
pip install -r requirements.txt # 또는: make install

3) 환경변수 설정

cp .env.example .env
# .env 열어 OPENAI_API_KEY 등 값 채우기 (공백 포함 값은 "따옴표" 필수)

4) 데이터 준비

  • (선택) 크롤링+OCRapp/data/clean 생성:

     python -m app.crawler.cheonanurc_clean
    
  • (예시) 인덱스 생성:

     python build_index.py
    

5) 개발 서버 실행

uvicorn app.main:app --reload --env-file .env
# 또는
make run

Swagger UI:


API

POST /api/chat

챗봇에게 질문을 보내고 답변을 받는 메인 엔드포인트.

Request

 { "message": "질문 내용" }

Response

 { "answer": "챗봇 응답" }

cURL

 curl -X POST http://localhost:8555/api/chat \
-H "Content-Type: application/json" \
-d '{"message":"센터 운영시간 알려줘"}'

TTS (edge-tts)

  • POST/api/tts/speak
  • GET/api/tts/speak?text=...&voice=...
  • GET/api/tts/ping (상태/현재 설정 확인)

voice 파라미터를 생략하면 .envTTS_VOICE를 사용합니다.

예시

 # GET
curl -G http://localhost:8555/api/tts/speak --data-urlencode "text=안녕하세요"
# POST
curl -X POST http://localhost:8555/api/tts/speak \
-H "Content-Type: application/json" \
-d '{"text":"안녕하세요","voice":"ko-KR-SunHiNeural"}' --output out.mp3

아키텍처 개요

[Client / Frontend]
│ HTTP (POST /api/chat)
▼
[FastAPI - app.main / app.api.routes]
│ ask()
▼
[RAG 파이프라인]
1) FAQ/URL/규칙 확인
2) Retriever(FAISS+BM25) → 문맥 수집
3) (옵션) Reranker(CrossEncoder)
4) LLM 프롬프트 구성 & 응답 생성
▼
[JSON 응답: { "answer": "..." }]

주요 환경변수

 # LLM/OpenAI
OPENAI_API_KEY=sk-xxxx
OPENAI_MODEL=gpt-4o-mini
OPENAI_TEMPERATURE=0.2
MAX_COMPLETION_TOKENS=1024
# RAG / 임베딩/인덱스
EMBED_MODEL_ID=intfloat/e5-large-v2
INDEX_DIR=app/data/index
CLEAN_DIR=app/data/clean
# Retriever 가중치
RETRIEVER_K=12
VEC_WEIGHT=0.7
BM25_WEIGHT=0.3
# (옵션) Reranker
RERANK_MODEL_ID=khoj-ai/mxbai-rerank-base-v1
RERANK_TOP_N=4
# 캐시/Redis
REDIS_URL=redis://localhost:6379/0
CACHE_TTL_SEC=600
# CORS (쉼표로 구분)
CORS_ORIGINS=http://localhost,http://127.0.0.1,http://localhost:8666
# 정적/퍼블릭
STATIC_URL_PREFIX=/static
PUBLIC_BASE_URL=http://localhost:8555
# TTS
TTS_VOICE=ko-KR-SunHiNeural
TTS_RATE=-4%
TTS_VOLUME=+0%
TTS_MEDIA_TYPE=audio/mpeg
# 크롤러/네트워크
HTTP_USER_AGENT=Mozilla/5.0 (compatible; CheonanURC-CleanBot/1.0)
REQUEST_TIMEOUT_SEC=30
CONCURRENCY=6
BATCH_GATHER=64
# OCR
ENABLE_OCR=1
OCR_BACKENDS=paddle,tesseract
OCR_LANG=kor+eng
PADDLE_OCR_LANG=korean
TESSERACT_CMD=/usr/bin/tesseract
OCR_MIN_CONF=0.65
OCR_MIN_CHARS=15
OCR_USE_ENS=1
OCR_ROTATE_ALL=1
OCR_SCALE_UP=1.8
MAX_GIF_FRAMES=10
OCR_ATTACH_TO_MD=1
# 로컬 이미지 인제스트
# LOCAL_IMAGE_ROOT=/path/to/local/images
LOCAL_IMAGE_DEFAULT_CATEGORY=센터소개
# (선택) 외부 SEEDS 정의 파일
# SEEDS_FILE=/path/to/seeds.json

Makefile

install:
pip install -r requirements.txt
ingest:
python build_index.py
run:
uvicorn app.main:app --reload --env-file .env
health:
curl -s http://localhost:8555/ | jq .
clean:
find . -type d -name "__pycache__" -exec rm -rf {} + || true

프론트엔드 연동

  • ->별도 프론트엔드 레포: https://github.com/KT-TeamProject-11/client_v2
  • 기본은 백엔드 http://localhost:8555에 연결합니다.
    프록시/도메인을 쓰는 경우 .env 또는 프런트 설정에서 API 베이스 URL을 맞춰 주세요.

About

RAG-Chatbot_Cheonan_Urban_Regeneration_Support_Center

Resources

Stars

0 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages