Does SGD really happen in tiny subspaces?

KAIST · ICLR 2025 · 2025 · 검증 완료 검증 완료복수의 신뢰 가능한 출처로 검증되었습니다.

SGD가 저차원 지배 부분공간에서 이뤄진다는 통념을 반박하고, 이 정렬이 본질적이 아니라 허상임을 실험적으로 규명.

arXiv
2405.16002
원문
https://arxiv.org/abs/2405.16002

관련 항목

출처 및 검증

마지막 검증일: 2026-07-22

✎ 정보 수정 제안