Na skutek powszechnego wzburzenia aresztowaniami w kościołach, namiestnik Lambert (sam katolik) nakazał natychmiastowe zwolnienie 1600 osób, wykonanie polecenia zlecając oberpolicmajstrowi warszawskiemu gen. Lewszynowi i komendantowi Cytadeli gen. Jermołowowi. Lambert nie zawiadomił o swoich decyzjach Gerstenzweiga, który wzburzony tym faktem przybył wieczorem do Pałacu Namiestnikowskiego i w trakcie burzliwej rozmowy nazwał namiestnika „izmiennikom” („zdrajcą”), a nawet spoliczkował go. Ta niebywała sytuacja wymagała rozstrzygnięcia honorowego, a ponieważ klasyczny pojedynek między dwoma najwyższymi dygnitarzami carskimi i zarazem generałami w Królestwie w warunkach stanu wojennego nie wchodził w grę, Lambert wyzwał Gerstenzweiga na pojedynek amerykański. Białą kulę wyciągnął Gerstenzweig i wykonując obowiązek honorowy, strzelił do siebie, ale tak niefortunnie, że umierał kilka dni.