← 논문

ACE: Adapter Consolidation across Experts for Parameter-Efficient Fine-Tuning of MoE LLMs

UNIST · EMNLP 2026 · 2026 · ✓검증 완료 검증 완료복수의 신뢰 가능한 출처로 검증되었습니다.

MoE의 전문가별 LoRA 가운데 기능적으로 중복되는 어댑터를 묶어 같은 PEFT 예산에서 그룹 공유형 고랭크 LoRA로 통합한다. 12개 데이터셋과 4개 MoE 백본에서 정확도를 높이면서 전문가별 LoRA보다 학습 시간을 1.31~1.48배 단축했다고 보고한다.

arXiv

2609.06072

원문

https://arxiv.org/abs/2609.06072

관련 항목

• UNIST 인공지능대학원

출처 및 검증

• [paper] https://arxiv.org/abs/2609.06072
• [github] https://github.com/UbiquitousAILab/ACE

마지막 검증일: 2026-09-16