Kariera W 1983 roku zmienił swoje personalia na John Patrick Oswald i przeniósł się do Los Angeles. Trzy lata potem dołączył do heavymetalowego zespołu Warrant. W latach 1986–2004 był wokalistą i głównym kompozytorem grupy. Napisał największe przeboje, takie jak "Cherry Pie" czy "I Saw Red". Jednak z powodu nieporozumień z innymi muzykami kilkakrotnie opuszczał zespół. Najpierw w roku 1993, na okres kilkunastu miesięcy, potem z kolei w roku 2004. Cztery lata potem powrócił, a Warrant zagrał serię koncertów w oryginalnym składzie. Po ostatniej trasie muzycy Warrant rozstali się definitywnie, pozostali jednak w dobrych kontaktach, Jani pozwolił muzykom Warrant na granie utworów przez niego napisanych.
Od roku 2000 rozwijał swoją karierę solową. W 2002 wydał debiutancki album "Back Down to One", gdzie zaprezentował się od lżejszej strony. Oprócz tego realizował się jako wokalista sesyjny. W 2007 roku ukazała się jego druga płyta solowa "Photograph". Jego ostatni album "Love the Sin, Hate the Sinner" (2008) został nagrany wspólnie z Saints of the Underground.