Hugging Faceは2026年9月15日、パラメータ効率的ファインチューニング（PEFT）ライブラリにおいて、最新の軽量モデル適応手法「ShadowPEFT」を正式サポートしたと発表した。
ShadowPEFTは、従来のLoRAなどの外部アダプタ構造と異なり、ベースモデル自身の重み構造の一部をシャドウ適応層として活用する新しい適応アプローチである。これにより、追加のパラメータオーバーヘッドを最小限に抑えつつ、推論時およびファインチューニング時のメモリフットプリントを劇的に削減しながら高精度なタスク適応を実現する。
Hugging Faceの公式ブログでは、LlamaやMistralなどの主要オープンモデルを用いた実装サンプルとベンチマーク結果が公開されている。
コメント (0)