-
FastAPI (ai-app)
→ /chat, /chat/stream, /tts 같은 API 엔드포인트 제공
→ 로컬에서 도커로 실행됨 (8081)
-
ngrok
→ 로컬에서 실행 중인 FastAPI/WhisperLive를 인터넷에 공개
→ EC2 nginx가 /ai/* 요청을 ngrok 주소로 프록시
→ 폰/외부 브라우저도 접근 가능
• WebSocket은 STT 용 /ws만 사용
- ai-app
- /pipeline WebSocket 추가 (STT→LLM(stream)→TTS를 Queue/Task로 분리)
- STT SERVER_READY/segments를 클라이언트로 전달하도록 보강
- LLM 문장 단위 TTS + 바이너리 오디오 전송
- 프론트 (Parent/Children)
- VITE_AI_PIPELINE=1일 때 /pipeline 사용
- 바이너리 오디오 수신 즉시 재생
- 파이프라인 모드에서는 기존 LLM/TTS HTTP 호출을 하지 않음