Zarówno takie zbiory, jak i sam sposób działania sieci muszą być przygotowane przez specjalistów, ale cechy wykrywa już sam program. Dzięki temu możliwe jest przetworzenie wielkiej ilości danych, a sieć może automatycznie nauczyć się reprezentacji cech wyższego poziomu, co oznacza, że mogą one wykryć skomplikowane wzorce w danych wejściowych.
Współczesne głębokie sieci neuronowe są jednokierunkowe (feed-forward, czasem z elementami rekurencyjnymi) i działają w zupełnie innym paradygmacie niż dawne modele oparte na minimalizacji energii (np. sieci Hopfielda).
Podstawową zasadą ich działania jest minimalizacja błędu (loss) – sieć uczy się tak dobierać swoje parametry, aby w warstwie wyjściowej przypisywać jak największe prawdopodobieństwo poprawnej odpowiedzi. Wyjście sieci ma często formę wektora prawdopodobieństw (np. „kot” vs. „pies”), uzyskanych przez normalizację wartości neuronów wyjściowych.
W procesie treningu sieć otrzymuje dane wejściowe (np. obraz) i aktualizuje wagi poprzez propagację wsteczną, tak aby jak najlepiej odwzorować oczekiwane etykiety. Zamiast „przyciągania” do zapamiętanych wzorców – jak w modelach energetycznych – sieć uczy się funkcji odwzorowującej wejścia na prawdopodobne wyjścia.