①
AI 프로덕션 백엔드 풀사이클
“LLM 데모가 아니라, 운영 가능한 AI 서비스를 만들었다”
근처에 조용한 카페 추천해줘
지금 위치에서 도보 5분 거리에 카페 3곳을 찾았어요. 첫 번째는…
연결이 끊겨도 대화는 안전하게 보존
| 기간 | 2026.03 ~ 2026.07 (진행 중) |
|---|---|
| 역할 | 백엔드 단독 구축 · AI 아키텍처 전환 주도 · 음성 파이프라인 설계 |
| 기술 | Python · FastAPI · MySQL · OpenAI (GPT / Whisper / TTS) |
모바일 앱 안에서 AI와 텍스트·음성으로 실시간 대화하는 기능을 설계부터 프로덕션 출시·운영까지 책임지고 구축했습니다. 화려한 데모가 아니라, 수많은 사용자가 동시에 써도 안정적으로 동작하는 운영 가능한 AI 서비스를 만드는 것이 목표였습니다.
서비스 흐름
01
질문 입력
텍스트 또는 음성으로 질문
02
AI 추론·검색
데이터 기반 추천·답변 생성
03
실시간 전달
답변을 끊김 없이 스트리밍
04
안전한 기록
연결이 끊겨도 대화 보존
핵심 특징
유실 없는 대화
이동 중 네트워크가 끊겨도 대화 내용이 사라지지 않도록 서버가 끝까지 응답을 받아 보관합니다.
음성 대화
음성 인식(STT)과 음성 합성(TTS)을 연결해 말로 묻고 음성으로 답을 듣는 경험을 제공합니다.
무중단 세대 교체
서비스를 멈추지 않고 AI 엔진 구조를 4단계에 걸쳐 최신 아키텍처로 전환했습니다.
자동 품질 검증
AI 답변 품질을 자동으로 평가하는 체계를 갖춰, 변경 때마다 품질 저하를 사전에 걸러냅니다.
성과
단독
백엔드 전 구간 구축·운영
0건
네트워크 끊김에 의한 대화 유실
4단계
무중단 AI 아키텍처 전환
출시
프로덕션 앱 정식 탑재
기업 실서비스 프로젝트는 재직 중 수행한 개발 건으로, 코드는 사내 비공개 저장소에 있습니다. 아키텍처·수치는 보안에 문제없는 수준으로 재구성했으며, 상세 내용은 미팅에서 설명 가능합니다.