W trakcie II wojny światowej wraz z działaczami takimi jak Ernő Gerő i Mátyás Rákosi prowadził akcję szkoleniową pośród węgierskich jeńców wojennych w ZSRR i propagandową pośród jeszcze walczących oddziałów węgierskich. Dzięki staraniom grupy w październiku 1944 roku na stronę radziecką wraz z grupą oficerów przeszedł generał Béla Miklós.

Od 1944 w rządzie węgierskim z ramienia Komunistycznej Partii Węgier (następnie Węgierska Partia Pracujących) jako minister rolnictwa. W latach 1953–1955 był premierem Węgier. W 1955 roku usunięto go z partii i pozbawiono stanowisk partyjnych i państwowych.

Po wybuchu powstania węgierskiego, 24 października 1956 ponownie wyznaczono go na stanowisko premiera. Dzień wcześniej 300 tys. demonstrantów (głównie studentów) domagało się powołania Nagya na urząd premiera, uniezależnienia się od Związku Radzieckiego, wprowadzenia wolności słowa i prasy oraz przeprowadzenia wolnych wyborów. 1 listopada Nagy ogłosił neutralność Węgier i wystąpienie z Układu Warszawskiego. Oprócz tego anulował system jednopartyjny i rozwiązał policję polityczną Államvédelmi Hatóság (AVH). 4 listopada Armia Radziecka wkroczyła na Węgry, tworząc jednocześnie wierny Moskwie rząd Jánosa Kádára. Imre Nagy i jego współpracownicy schronili się w jugosłowiańskiej ambasadzie.