Inne prace wskazują, że akumulowanie danych syntetycznych obok danych rzeczywistych, zamiast całkowitego zastępowania danych pierwotnych, może ograniczać albo zapobiegać zapaści modelu.

W analizach statystycznych wskazywano, że trening wyłącznie na danych syntetycznych prowadzi do nieuniknionej degradacji, natomiast przy mieszaniu danych rzeczywistych i syntetycznych można wyznaczać warunki, w których zjawisko zapaści zostaje ograniczone. Późniejsze prace podkreślały, że skutki zależą od konkretnego przepływu danych: zastępowanie danych rzeczywistych syntetycznymi sprzyja zapaści, natomiast odpowiednio zarządzana akumulacja danych może stabilizować modele albo powodować jedynie wolniejszą degradację.

Za podstawowy warunek ograniczania ryzyka sugeruje się zachowanie dostępu do pierwotnych danych rzeczywistych oraz dalszego dopływu danych niewytworzonych przez modele. Wskazuje się też na potrzebę ustalania pochodzenia treści, choć śledzenie materiałów generowanych przez duże modele językowe w skali internetu pozostaje trudne. W badaniach nad rekurencyjnym uczeniem wykazano ponadto, że akumulowanie kolejnych danych syntetycznych obok pierwotnych danych rzeczywistych może zapobiegać zapaści w analizowanych scenariuszach, w przeciwieństwie do zastępowania danych rzeczywistych kolejnymi generacjami danych syntetycznych.

Przypisy

Kategoria:Generatywna sztuczna inteligencja Kategoria:Uczenie maszynowe