Latem 2001 Kolkka ponownie zmienił barwy klubowe. Za 2,3 miliona euro przeszedł do greckiego Panathinaikosu AO. Miał w nim pewne miejsce w składzie. W 2002 roku zajął z Panathinaikosem 3. miejsce w Alpha Ethniki, natomiast rok później został wicemistrzem kraju.
Latem 2003 Kolkka na zasadzie wolnego transferu trafił do niemieckiej Borussii Mönchengladbach. W Bundeslidze zadebiutował 3 sierpnia w wygranym 1:0 meczu z 1. FC Köln, a łącznie na niemieckich boiskach wystąpił w 28 spotkaniach, dwukrotnie wpisując się na listę strzelców oraz zajmując 11. miejsce w lidze. Po sezonie angielski Crystal Palace F.C. wyłożył za niego 700 tysięcy euro i zawodnik wyjechał do Londynu. W Premiership zadebiutował 14 sierpnia w zremisowanym 1:1 meczu z Norwich City. Zespół prowadzony przez Iaina Dowie nie poradził sobie jednak w ekstraklasie Anglii i zajmując 18. miejsce został zdegradowany o klasę niżej.
W 2005 roku Kolkka wrócił do Holandii za darmo przechodząc do ADO Den Haag. Z 8 bramkami został najlepszym strzelcem zespołu i częściowo uchronił zespół przed degradacją. Latem 2006 Joonas został piłkarzem Feyenoordu, w którym nie miał jednak pewnego miejsca w pierwszej jedenastce.