sztucznych neuronów) w każdej warstwie - zbyt duża liczba neuronów powoduje zbyt ścisłe dopasowanie sieci uczącej do danych, zbyt mała liczba neuronów powoduje słabą zdolność przewidywania przez sieć, dlatego trzeba zmniejszyć lub zwiększać liczbę neuronów sieci w trakcie uczenia, kontrolując przebieg uczenia za pomocą zbioru walidacyjnego: funkcja kosztu obliczona dla zbioru walidacyjnego zaczyna rosnąć, pomimo że maleje funkcja kosztu dla zbioru uczącego, to oznacza, że następuje zbytnie dopasowanie modelu do zbioru uczącego (por. rysunki). W takiej sytuacji zmniejsza się liczbę neuronów sieci i powraca się do proces uczenia za pomocą zbioru uczącego. Innym rozwiązaniem jest zakończenie procesu uczenia i przyjęcie modelu, dla którego występował najmniejszy błąd, obliczony na zbiorze walidacyjnym.
Zbiór testowy (dane testowe, próba testowa, zestaw testowy) służy do ostatecznej oceny modelu. Pozwala ocenić, czy model dobrze poradzi sobie na nowych, nieznanych (nieużywanych w procesie uczenia i walidacji) danych.
Typowy podział danych na zestaw uczący, walidacyjny i testowy to 50–80% / 10–25% / 10–25%.