Jego najważniejszymi partnerami w tych kontaktach byli Ulrich von Hassell oraz Adam von Trott zu Solz.
Z przyczyn religijnych i moralnych odmówił udziału w zamachu na życie wodza, który przygotowywał Krąg z Krzyżowej, popierał jednak starania o pozbawienie Hitlera władzy i zgodził się, w przypadku powodzenia spisku, przejąć władzę w Ministerstwie Spraw Zagranicznych.
W styczniu 1944 r. von Haeften przestrzegał swojego brata, Wernera, przed zastrzeleniem Hitlera, gdyż w ten sposób złamałby piąte przykazanie.
Von Haeften został aresztowany 23 lipca 1944 r., trzy dni po nieudanym zamachu w kwaterze Wehrmachtu Wilczy Szaniec w Gierłoży k. Kętrzyna w Prusach Wschodnich. Jego brat, jako adiutant Clausa von Stauffenberga, został rozstrzelany za udział w spisku. 15 sierpnia von Haeften stanął przed Sądem Ludowym. W trakcie zeznań nazwał Hitlera "sprawcą wielkiego zła". Został skazany na śmierć i powieszony tego samego dnia w więzieniu Plötzensee w Berlinie.