Lepiej prezentował się w sezonie 1993/1994, kiedy to zajął 14. miejsce w klasyfikacji generalnej. W większości startów zdobywał punkty, często także plasował się w czołowej dziesiątce, jednak na podium nie stanął. Jego najlepszym wynikiem w konkursach PŚ tego sezonu było piąte miejsce w konkursie w szwajcarskim Engelbergu 19 grudnia 1993 roku. Najważniejszym wydarzeniem 1994 roku były igrzyska olimpijskie w Lillehammer, gdzie Jani indywidualnie zajął szóste miejsce na normalnej skoczni oraz piąte na dużej. Wystąpił także w konkursie drużynowym, w którym razem z kolegami z reprezentacji zajął piąte miejsce. Niecały miesiąc po igrzyskach Fin był dziewiąty na mistrzostwach świata w lotach w Planicy.
Sezon 1994/1995 przyniósł mu pierwsze podium w karierze. Wywalczył je 1 stycznia 1995 roku, podczas konkursu w niemieckim Garmisch-Partenkirchen, ulegając tylko swemu rodakowi Janne Ahonenowi oraz Austriakowi Andreasowi Goldbergerowi. W pozostałych konkursach 43. edycji Turnieju Czterech Skoczni zajmował kolejno: 13. miejsce w Oberstdorfie, 14. miejsce w Innsbrucku oraz dziesiąte w Bischofshofen, co dało mu ostatecznie szóste miejsce w klasyfikacji końcowej. Łącznie w tym sezonie czterokrotnie stanął na podium – raz był drugi, a trzy razy trzeci.