Kariera Debiutował w 1927 w zespole Eddiego Condona. W latach 1935–1938 grał w orkiestrze Benny’ego Goodmana. Od 1938 do 1943 był liderem własnego big bandu, który został rozwiązany po tym, jak Krupa trafił na 3 miesiące do aresztu za posiadanie narkotyków i zatrudnienie w zespole nieletniego muzyka. Początkowo groziło mu 5 lat więzienia, jednak zarzuty zostały oddalone. Po tym incydencie ponownie został sidemanem. Współpracował wówczas z Tommym Dorseyem i wrócił do nagrywania z Goodmanem. Po roku założył swój drugi zespół, w którym karierę zaczynał, między innymi Gerry Mulligan. Big-band działał do 1951. Jego istnienie zakończyło założenie przez Gene'a tria i jego występ w ramach Jazz at the Philharmonic. W 1954 wraz z innym bębniarzem, Cozym Cole'em założył szkołę gry na perkusji. Mimo regularnego koncertowania, po założeniu szkoły Krupa skupił się na działalności edukacyjnej. W 1959 nagrano film fabularny w oparciu o życie perkusisty, zatytułowany "Drum Crazy: The Gene Krupa Story". Rolę artysty zagrał w nim Sal Mineo.