SOLAR 10.7B: Scaling Large Language Models with Simple yet Effective Depth Up-Scaling

Upstage · arXiv · 2023 · 검증 완료 검증 완료복수의 신뢰 가능한 출처로 검증되었습니다.

업스테이지가 제안한 depth up-scaling 기법으로 MoE 없이 효율적으로 모델을 확장해 더 큰 경쟁 모델을 능가하는 SOLAR 10.7B를 소개한다.

arXiv
2312.15166
원문
https://arxiv.org/abs/2312.15166

관련 항목

출처 및 검증

마지막 검증일: 2026-07-22

✎ 정보 수정 제안