Już dwa dni później, 1 stycznia 1983 roku, podczas konkursu w Garmisch-Partenkirchen Weißflog po raz pierwszy w karierze stanął na podium, zarazem pierwszy raz zdobywając punkty Pucharu Świata. W Innsbrucku był już drugi, ulegając jedynie Finowi Mattiemu Nykänenowi, a 6 stycznia 1983 roku w Bischofshofen niemiecki skoczek odniósł swe pierwsze zwycięstwo. W klasyfikacji generalnej Turnieju Czterech Skoczni zajął ostatecznie drugie miejsce za Nykänenem, trzeci był Horst Bulau z Kanady. W całym sezonie 1982/1983 trzykrotnie stawał na podium, po jednym razie na każdym jego stopniu, co dało mu 16. miejsce w klasyfikacji generalnej.
Sezon 1983/1984 był najbardziej udanym w jego karierze. Na igrzyskach olimpijskich w Sarajewie zdobył złoty medal na normalnej skoczni, wyprzedzając dwóch Finów: Nykänena oraz Jariego Puikkonena. Nykänen prowadził po pierwszej serii po skoku na 91,0 metrów, drugie miejsce zajmował Weißflog, który skoczył metr bliżej, a trzeci był Andreas Bauer z RFN. W drugiej kolejce Jens skoczył 87,0 metrów i skaczącemu na końcu Nykänenowi do zdobycia złota wystarczyłby skok na odległość około 86,0 metrów. Fin osiągnął tylko 84,0 metry co jednak wystarczyło do zdobycia srebrnego medalu.