Gdy obaj mieli pewność, że nikt już nie żyje z naocznych świadków, oddali się w ręce policji; wobec braku dowodów obaj za nic nie odpowiedzieli. W tym czasie gdy obaj ukrywali się przed wymiarem sprawiedliwości, inny gangster Dutch Schultz próbował przejąć interesy Jacka; wówczas między nimi wybuchła otwarta wojna. O ile Schultz mógł liczyć na wsparcie innych gangsterów, tak Legs mógł o tym zapomnieć; każdy jego ruch był śledzony i od razu przekazywany Dutchowi.
W październiku 1930 roku ludzie Schultza próbowali zastrzelić Legsa w jego apartamencie; był wtedy w towarzystwie swojej dziewczyny Kiki Roberts; rannego Jacka karetka przewiozła do szpitala; wydobrzał po kilku dniach. W kwietniu 1931 roku Legs został postrzelony w przydrożnym barze (ranny w ramię, płuco, plecy i wątrobę).
Ostatecznie został zastrzelony w miejscowości Albany 18 grudnia 1931 roku podczas snu; zabójcy strzelili mu w głowę trzy razy. Wśród zleceniodawców wymienia się Dutcha Schultza, Waxeya Gordona, a także samego Lucky Luciano i Meyera Lanskyego.