vLLM-RBLN
추론/배포 도구 · 검증 완료 검증 완료복수의 신뢰 가능한 출처로 검증되었습니다.
리벨리온 NPU에서 vLLM 추론을 지원하는 공식 플러그인. Qwen 계열·MoE, reranker score API, KV 전송과 비동기 스케줄링을 제공한다.
- 조직
- 리벨리온
- 저장소
- https://github.com/RBLN-SW/vllm-rbln
- 주 언어
- Python
- 라이선스
- Apache-2.0
출처 및 검증
- [github] https://github.com/RBLN-SW/vllm-rbln
- [github] https://github.com/RBLN-SW/vllm-rbln/releases/tag/v0.11.2
마지막 검증일: 2026-09-03