프렌들리 전용 엔드포인트

Friendli Dedicated Endpoints · 프렌들리에이아이 · 공식 출처 확인 공식 출처 확인공식 출처 1개 이상으로 확인되었습니다.

프렌들리AI가 제공하는 전용 GPU 기반 모델 서빙 서비스다. 커스텀 모델과 오픈웨이트 모델을 전용 엔드포인트로 배포해 일관된 성능과 안정성을 제공하며, 추측 디코딩(speculative decoding), 호스트 KV 캐시 등 최적화 기법으로 추론 처리량과 효율을 높인다.

상태
운영 중
모델 보유
외부 모델
분야
inference-softwareinfrastructurellm-serving
대상
enterprisedeveloper
제공 형태
cloudapi
웹사이트
https://friendli.ai

출처 및 검증

마지막 검증일: 2026-07-22

✎ 정보 수정 제안