16 czerwca 2011 rozwiązał kontrakt z Jagiellonią z powodów rodzinnych, po czym podjął pracę w Lechu jako asystent José Mari Bakero. Od marca 2012 do sierpnia 2014 był pierwszym szkoleniowcem poznańskiej drużynyMariusz Rumak odchodzi. Krzysztof Chrobak trenerem tymczasowym [data dostępu: 2014-08-12]. W sezonie 2011/2012 Lech pod wodzą Rumaka zajął czwarte miejsce w lidze, dające występ w Lidze Europy. Na początku sezonu 2012/2013 podpisał trzyletni kontrakt. W sezonie 2012/2013 zdobył z Lechem wicemistrzostwo Polski, kwalifikując się do europejskich pucharów na pięć kolejek przed końcem rozgrywek. Dodatkowo zespół ustanowił nieoficjalny rekord wyjazdowy "Kolejorza" – 10 zwycięstw z rzędu i 12 wygranych w sezonie. W rozgrywkach Ligi Europy sezonu 2012/2013 wyeliminował Żetysu Tałdykorgan oraz Xəzər Lenkoran, a następnie odpadł w III rundzie eliminacji z AIK Fotboll, przegrywając dwumecz 1:3.
1 września 2014 został szkoleniowcem Zawiszy Bydgoszcz i w tym samym sezonie spadł z klubem z ekstraklasyZawisza spadł do I ligi [data dostępu: 2015-06-05].