Od lipca 1990 do grudnia 1991 był ministrem obrony narodowej w rządach Tadeusza Mazowieckiego i Jana Krzysztofa Bieleckiego. W 1992 miał objąć urząd generalnego inspektora sił zbrojnych. Po przekazaniu urzędu Janowi Parysowi pod koniec 1991 został przez niego natychmiastowo, wbrew woli prezydenta Lecha Wałęsy, przeniesiony do rezerwy, co uniemożliwiło objęcie tego stanowiska. Sytuacja ta była początkiem konfliktu pomiędzy prezydentem a ministrem obrony (zdymisjonowanym w połowie 1992), a Generalny Inspektorat Sił Zbrojnych nie został utworzony. Stanowisko ministra obrony narodowej Piotr Kołodziejczyk sprawował ponownie od października 1993 do listopada 1994 w rządzie Waldemara Pawlaka. Został zdymisjonowany po przedłużającym się konflikcie z prezydentem Lechem Wałęsą i szefem Sztabu Generalnego Wojska Polskiego Tadeuszem Wileckim. Kulminacją tego sporu był tzw. obiad drawski przy okazji odprawy kadry dowódczej Wojska Polskiego w Drawsku Pomorskim, podczas którego generałowie w obecności Lecha Wałęsy i Tadeusza Wileckiego skrytykowali działalność Piotra Kołodziejczyka, dając prezydentowi pretekst do jego odwołania.
W drugiej połowie lat 90. związany z Unią Wolności, z ramienia której w 1998 bez powodzenia kandydował do sejmiku województwa pomorskiego.