Zjawisko odróżnia się od halucynacji modeli językowych, odnoszących się do generowania treści niezgodnych ze źródłem, niemożliwych do potwierdzenia na jego podstawie lub pozbawionych sensu. Model collapse dotyczy natomiast procesu treningowego i zmian zachodzących w kolejnych generacjach modeli. Nie jest też tożsame ze zjawiskiem mode collapse w modelach typu GAN, w którym generator wytwarza powtarzalne lub bardzo podobne próbki i nie odwzorowuje pełnej różnorodności rozkładu danych. mały|Wąż zjadający własny ogon jest używany jako obrazowa metafora zapaści modelu W omówieniach popularnonaukowych zapaść modelu bywa opisywana za pomocą metafory sztucznej inteligencji „zjadającej własny ogon”, ponieważ dane wytworzone przez modele mogą wracać do obiegu jako materiał treningowy dla kolejnych modeli. Inną używaną w tym kontekście analogią jest poszukiwanie „nieskażonych” danych, porównywane do wykorzystywania starej stali sprzed epoki prób jądrowych w urządzeniach wymagających niskiego poziomu promieniowania;
Źródło i licencja
Fragment artykułu Wikipedia — Zapaść modelu · historia autorów.
Tekst: CC BY-SA 4.0. Wydzielono fragment z dłuższego artykułu.