Jako dwudziestolatek zdał maturę i przeprowadził się do Bergen, by rozpocząć studia.
Jego debiut powieściowy (Raudt, svart) ukazał się w 1983 roku, niedługo potem pisarz wydał książkę Stengd gitar (Zamknięta gitara) (1985) i tomik poezji Engel med vatn i augene (Anioł z wodą w oczach) (1986). W 1989 roku wraz z Alf-Kåre Bergiem napisał książkę dla dzieci Uendelig seint (Nieskończenie późno), za którą otrzymał Nagrodę Literacką dla Literatury Dziecięcej w Języku Nynorsk (Den Nynorske barnelitteraturprisen). Była to pierwsza z wielu nagród, którymi uhonorowano Jona Fossego.
Fosse nie tylko pisze książki, ale także tłumaczy je na nynorsk (m.in. utwory Federico Garcíi Lorki), jest autorem "tłumaczenia" na nynorsk napisanego przez Henryka Ibsena w bokmålu poematu dramatycznego Peer Gynt. Od 1994 wraz z innym norweskim pisarzem Janem Kjærstadem redaguje czasopismo "Bøk" („Książka”). Piastuje także ważne funkcje w norweskich stowarzyszeniach pisarzy.