vLLM MBLT
추론/배포 도구 · 검증 완료 검증 완료복수의 신뢰 가능한 출처로 검증되었습니다.
모빌린트 NPU 런타임을 vLLM 서빙·벤치마크 스택에 연결하는 공식 out-of-tree 플러그인. 텍스트·비전언어 모델을 OpenAI 호환 API로 제공하고 모델별 프리필·배치 스케줄링을 자동 조정하며, v0.3.0부터 vLLM 프로파일러를 통한 NPU 이벤트 추적을 지원한다.
- 조직
- 모빌린트
- 저장소
- https://github.com/mobilint/vllm-mblt
- 주 언어
- Python
- 라이선스
- Apache-2.0
- Stars
- 12
출처 및 검증
- [github] https://github.com/mobilint/vllm-mblt
- [github] https://github.com/mobilint/vllm-mblt/releases/tag/v0.3.0
마지막 검증일: 2026-09-16