W 1989 w okresie przemian politycznych został jednym z liderów nowo powołanej partii Społeczeństwo przeciw Przemocy (VPN). W styczniu 1990 z rekomendacji Alexandra Dubčeka objął stanowisko ministra spraw wewnętrznych i środowiska w słowackim rządzie. W wyborach w tym samym roku uzyskał mandat deputowanego do jednej z izb Zgromadzenia Federalnego Czeskiej i Słowackiej Republiki Federacyjnej. 27 czerwca 1990 objął urząd premiera Słowacji, który sprawował do 23 kwietnia 1991. W międzyczasie, w marcu 1991, wraz z grupą swoich zwolenników opuścił VPN. Z urzędu premiera został odwołany przez słowacki parlament, w którym opozycja zarzucała mu rzekomą tajną współpracę z komunistycznymi służbami w okresie reżimu Gustáva Husáka. W czerwcu 1991 założył Ruch na rzecz Demokratycznej Słowacji (HZDS), od czerwca 2003 działający jako Partia Ludowa – Ruch na rzecz Demokratycznej Słowacji. W 1992 wybrany na posła, mandat deputowanego do Rady Narodowej uzyskiwał następnie w wyborach w 1994, 1998, 2002 i 2006.