Kiedy miał 8 lat wraz z matką wyemigrował do Stanów Zjednoczonych i osiedlił się w Nowym Jorku. Jego ojciec pozostał w Izraelu, gdzie miał kolejnego syna i trzy córki. W Stanach Zjednoczonych Simmons zmienił nazwisko na Gene Klein, przyjmując nazwisko panieńskie matki. Mając 9 lat, przez krótki czas uczęszczał do żydowskiej szkoły religijnej Yeshiva Torah Vodaas, po czym przeniósł się do szkoły publicznej. Później uczęszczał do Richmond College i Sullivan County Community College w Nowym Jorku i wybrał pseudonim sceniczny w hołdzie dla piosenkarza rockabilly Jumpin’ Gene Simmonsa. Godzinami ćwiczył grę na gitarze. Zanim rozpoczęła się jego kariera muzyczna, pracował w mieście na różnych stanowiskach. Jako biegły na maszynie do pisania, był asystentem redaktora magazynu „Vogue” i spędził kilka miesięcy jako instruktor w Upper West Side.
thumb|left|200px|Gene Simmons podczas koncertu wraz z zespołem Kiss (2013)