W firmie Erma postanowiono skonstruować broń nowatorską. Doświadczenia eksploatacji starszych pistoletów maszynowych wykazały, że ich największą wadą są duże wymiary utrudniające posługiwanie się nimi w zamkniętych pomieszczeniach. Dlatego prototyp nowej broni oznaczonej jako EMP 36 wyposażono w kolbę składaną pod spód broni. Był to pierwszy pistolet maszynowy wyposażony w tego rodzaju kolbę. Starsze pistolety maszynowe miały kolby stałe lub odłączane (jak Thompson M1928). EMP 36 był także jednym z pierwszych niemieckich pistoletów maszynowych wyposażonych w magazynek dołączany od dołu komory zamkowej (zamocowany magazynek był lekko odchylony do przodu i w lewo). Lufę zakończono w hak współpracujący z podstawą muszki. Wysokość obu tych elementów tak dobrano aby uniknąć przypadkowego wciągnięcia broni do wnętrza pojazdu w przypadku strzelania przez szczelinę w pancerzu. Ułatwić obsługę broni wewnątrz pojazdu miało też zapewnić przeniesienie rękojeści napinania zamka na lewą stronę (broń wsunięta w szczelinę strzelniczą była trzymana za chwyt pistoletowy prawą ręką, dzięki przeniesieniu rękojeści napinania napiąć zamek można było tą samą ręką którą zmieniało się magazynek.