멀티 엔진 추상화 (STT·LLM)

개요

STT·LLM 외부 엔진을 Factory와 추상 베이스 클래스 뒤로 숨겨, 비즈니스 로직 수정 없이 .env 설정만으로 교체 가능하게 한 설계. STT 3종(Faster-Whisper / WhisperLive / Google STT), LLM 3종(Ollama / LM Studio / Gemini)을 동일 인터페이스로 갈아끼운다.

---

왜 이 설계가 필요했는가 (Problem)

---

구조

---

핵심 설계 결정

1. STT Factory — 설정값으로 엔진 주입

# STT Factory — 설정값에 따라 엔진 모듈 주입
기본 엔진 불러오기():
    if 엔진 설정 == "faster-whisper": 엔진 = Faster-Whisper 구현
    elif 엔진 설정 == "whisperlivekit": 엔진 = WhisperLive 구현
    else: 오류("지원하지 않는 STT 엔진")
세그먼트 전사(오디오 바이트, 초기 프롬프트):
    return 엔진.세그먼트 전사(오디오 바이트, 초기 프롬프트)  # 호출부는 엔진 종류를 모른다

2. LLM 추상 베이스 클래스 (ABC)

# LLM 추상 베이스 — 모든 구현체가 상속하는 계약
class LLM 서비스(ABC):
    @abstractmethod 연결 확인() -> bool
    @abstractmethod 요약(대화록) -> dict
    @abstractmethod 도메인 요약(대화록) -> dict

3. 설정 기반 교체 + 성능 튜닝

# 설정값 — 엔진 · 모델 · 디바이스 · 정밀도
STT 엔진 = "faster-whisper"  # | "whisperlivekit"
모델 크기 = "base"  # tiny ~ large-v3
디바이스 = "cuda"  # auto | cpu | cuda | mps
연산 정밀도 = "float16"  # int8 | float16 | float32
LLM 제공자 = "ollama"  # | "lmstudio" | "gemini"

---

엔진 비교

---

구현 범위와 한계

만든 것

만들지 않은 것

설정 매트릭스 실측 (2026-08-30 · 배포 환경)

테스트를 작성하지 않은 이유