Skip to content

Feat: 책 추천 챗봇 SSE 적용#106

Open
topograp2 wants to merge 1 commit into
TEAM-ZIP:developfrom
topograp2:feature/bookie-chat-sse
Open

Feat: 책 추천 챗봇 SSE 적용#106
topograp2 wants to merge 1 commit into
TEAM-ZIP:developfrom
topograp2:feature/bookie-chat-sse

Conversation

@topograp2

Copy link
Copy Markdown
Member

🔘Part

  • BE

🔎 작업 내용

Bookie 채팅 API에 SSE 기반 스트리밍 응답 방식을 추가

  • 기존 /bookie/chat 엔드포인트는 AI 응답을 모두 생성한 뒤 한 번에 반환하는 구조였으나, /bookie/chat/stream 엔드포인트를 새로 구현하여 외부 AI 서버의 /chat/stream SSE 응답을 실시간으로 중계하도록 변경

응답 저장 로직 비동기 처리

  • 스트리밍 응답 종료 시점의 대화 내역 저장 로직을 비동기 처리로 분리
  • 응답 완료 이후 DB 저장이 사용자 응답 흐름을 지연시키지 않도록 개선
  • AI 서버 호출 실패 시 상태 코드와 요청/응답 바디를 로그에 남기도록 보강하여 디버깅 가능성도 높임

성능 측정 결과

  • 기존 /bookie/chat 방식의 평균 전체 응답 시간은 4.53초
  • /bookie/chat/stream 방식의 평균 첫 응답 도달 시간은 2.85초, 평균 전체 완료 시간은 4.29초
    -> 전체 처리 시간의 큰 단축보다는, 사용자가 응답을 인지하기까지의 체감 대기 시간을 줄이는 방향에서 개선

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant