W przypadku adapterów umożliwia to współdzielenie jednego modelu bazowego między wieloma zadaniami bez konieczności przechowywania osobnej pełnej kopii modelu dla każdego z nich, natomiast w przypadku metod reparametryzacyjnych, takich jak LoRA, po zakończeniu uczenia możliwe jest połączenie parametrów adaptacyjnych z wagami modelu bazowego na potrzeby wnioskowania. Metody PEFT znajdują zastosowanie nie tylko w przetwarzaniu języka naturalnego, lecz także w modelach wizyjnych i modelach wielomodalnych.
Dostrajanie odbywa się zazwyczaj za pomocą uczenia nadzorowanego. To podejście można też połączyć z techniką RLHF, aby wytworzyć modele językowe, takie jak ChatGPT (dostrojona wersja modeli GPT).
Zobacz też nadmierne dopasowanie
Przypisy
Kategoria:Uczenie maszynowe