mlxcel

추론/배포 도구 · 검증 완료 검증 완료복수의 신뢰 가능한 출처로 검증되었습니다.

Apple Silicon과 NVIDIA CUDA에서 LLM·VLM·임베딩·리랭킹·음성 모델을 실행하는 래블업의 Rust 추론 런타임. OpenAI 호환 서버와 로컬 추론을 제공하며 v0.7.0에서 llama-server b10621 호환, 멀티 LoRA, GBNF 문법, MP3·FLAC ASR 및 신규 멀티모달 모델 지원을 확장했다.

조직
래블업
저장소
https://github.com/lablup/mlxcel
주 언어
Rust
라이선스
Apache-2.0
Stars
466

출처 및 검증

마지막 검증일: 2026-09-16

✎ 정보 수정 제안