Po awansie Hannoveru Šimák odszedł z klubu i za 6 milionów euro trafił do Bayeru 04 Leverkusen, w którym miał zastąpić Michaela Ballacka. W nowym klubie po raz pierwszy wystąpił 10 sierpnia przeciwko Energie Cottbus (1:1) i w debiucie zdobył gola. W 3. kolejce zaliczył trafienie przeciwko VfL Bochum (2:4), ale w kolejnych grał mniej skutecznie i do końca sezonu strzelił tylko jedną bramkę, a po sezonie wrócił do Hannoveru. Międzyczasie nasiliły się problemy Jana z depresją i alkoholem, toteż rozegrał tylko 6 spotkań w Bundeslidze, w których zdobył 2 gole.
Latem 2004 Czech wrócił do ojczyzny i zasilił szeregi Sparty Praga. W Sparcie również miał kłopoty z dyscypliną i nie występował we wszystkich spotkaniach. W 2005 roku został ze Spartą mistrzem Czech, po raz pierwszy w karierze, a sukces ten powtórzył dwa lata później. Latem 2007 odszedł ze Sparty i za 300 tysięcy euro ponownie trafił do drugiej ligi Niemiec. Przez rok grał w FC Carl Zeiss Jena, dla którego strzelił 7 goli.
W lipcu 2008 Šimák podpisał kontrakt z VfB Stuttgart, który zapłacił za niego 800 tysięcy euro. W 2010 roku przeszedł do 1. FSV Mainz 05, a w 2011 wrócił do Carl Zeiss Jena. Następnie grał w FC MAS Táborsko i Dynamie Czeskie Budziejowice.