Klub ten jednak grał słabo i na koniec sezonu zajął ostatnie miejsce zostając zdegradowany z Landsbankadeild. Petersen zagrał w 15 meczach i zdobył tylko 5 goli, co jak na niego nie było dobrym wynikiem. W 2001 roku powrócił więc na wyspy i ponownie został graczem B36, z którym znów został mistrzem wyspiarskiej ekstraklasy. W mistrzowskim sezonie zdobył 16 bramek. W 2002 roku zdobył ich 15, ale tym razem stołeczny klub zagrał dużo słabiej i zakończył ligę na 5. miejscu. W B36 John grał do końca roku 2004, ale nie osiągał już takich sukcesów jak wcześniej. Zimą 2005 wyjechał do Danii i podpisał kontrakt z klubem Holstebro BK grającym w duńskiej 3 lidze, okręgu zachodnim. Następnie grał w farerskim B68 Toftir i duńskim Skive IK, w którym zakończył karierę zawodniczą.