W rzeczywistości nowoczesny mikroprocesor (bądź komputer główny) może mieć kilka rdzeni, każdy rdzeń z kilkoma jednostkami wykonawczymi, każda jednostka wykonawcza z kilkoma ALU.
Wiele innych układów może mieścić w sobie ALU: GPU (jednostka przetwarzania graficznego) jak ta w kartach graficznych Nvidia czy AMD, FPU (jednostka obliczeń zmiennoprzecinkowych) w znanym koprocesorze 80387 oraz procesor przetwarzania sygnałów cyfrowych w karcie dźwiękowej Sound Blaster, odtwarzacze CD i odbiorniki telewizyjne HD. Wszystkie z nich posiadają kilka potężnych i złożonych jednostek arytmetyczno-logicznych.
Historia: Architektura von Neumanna
Matematyk John von Neumann zaproponował model ALU w 1945 roku, kiedy to sporządził spis założeń dla nowego komputera EDVAC (z ang. Electronic Discrete Variable Automatic Computer, czyli elektroniczny komputer maszynowy o zmiennych nieciągłych). Później w 1946 r. pracował ze swoimi kolegami nad stworzeniem komputera dla Princeton Institute of Advanced Studies (IAS). Komputer IAS stał się prototypem dla wielu późniejszych komputerów. W swoim projekcie von Neumann nakreślił, co według niego będzie niezbędne w komputerze uwzględniając ALU.