LLM Inference Serving
Ollama / vLLM 기반 로컬 모델 서빙 + FastAPI OpenAI-compatible 백엔드 구성
Appearance
LLM 실습 노트AI Inference Platform 포트폴리오
Local LLM 서빙부터 AWS EKS 배포, 성능 최적화, 비용 분석까지 — 실습 기반 LLM 서비스 운영 학습
Local LLM 서빙부터 AWS EKS 배포, 성능 최적화, 비용 분석까지 — 실습 기반 LLM 서비스 운영 학습