29 maja 2008 objął stanowisko trenera Cagliari Calcio, na którym zastąpił Davide Ballardiniego. Pomimo fatalnego początku, kiedy to Cagliari przegrało pięć pierwszych spotkań pod wodzą nowego szkoleniowca, Allegri zachował swoje stanowisko. Później było już nieco lepiej, a drużyna plasowała się w środku tabeli. 9 grudnia, po zwycięstwie u siebie nad Città di Palermo trener przedłużył kontrakt do czerwca 2011. 13 kwietnia 2010 roku został zwolniony.
25 czerwca 2010 został trenerem Milanu, podpisując z klubem dwuletni kontrakt. Z funkcji tej został zwolniony 13 stycznia 2014 roku.
16 lipca 2014 roku został trenerem Juventusu, z którym podpisał dwuletni kontrakt. Zastąpił na stanowisku Antonio Conte, który niespodziewanie dzień wcześniej podał się do dymisji. Od sezonu 2014/2015 do sezonu 2017/2018 zdobywał mistrzostwo, czterokrotnie Puchar Włoch oraz dwukrotnie Superpuchar. Juventus pod jego wodzą dotarł też dwukrotnie do finału Ligi Mistrzów, gdzie uległ Barcelonie 1:3 (2015) oraz Realowi Madryt 1:4 (2017).