McCulloch i Pitts wykazali, że poprzez odpowiednie połączenie takich neuronów można tworzyć bramki logiczne AND, OR, NOT, a z nich bardziej złożone układy.
W 1958 roku Frank Rosenblatt opublikował model perceptronu, który do dziś stanowi podstawę sztucznych sieci neuronowych. Perceptron zbudowany przez Rosenblatta wraz z Charlesem Wightmanem służył do rozpoznawania znaków alfanumerycznych. Innowacją było opracowanie metody uczenia sieci neuronowej, dzięki której po odpowiednio dużej liczbie iteracji sieć przyjmowała właściwe wagi i biasy. Był to istotny postęp: McCulloch i Pitts ustawiali wagi i biasy sieci poprzez ich odgadnięcie, co jest niewykonalnym zadaniem dla bardziej złożonych zagadnień.
W Polsce Jacek Karpiński, inżynier i wynalazca, skonstruował w 1962 roku perceptron z tranzystorów. Jego sieć neuronowa rozpoznawała otoczenie za pomocą kamery i potrafiła się uczyć. Był to drugi taki perceptron na świecie.
Badania nad perceptronami zostały zahamowane na jakiś czas, gdy w roku 1969 Marvin Minsky i Seymour Papert wykazali, że metoda uczenia perceptronów, podana przez Rosenblatta, jest skuteczna jedynie dla sieci mających uczyć się problemów liniowo separowalnych (pojęcie to omówiono dalej);