Ojciec Grzegorza, również o imieniu Grzegorz, pochodził z bogatego klanu wyznającego hypistarianizm. Hypistarianie czcili monoteistycznego Boga, praktykując synkretycznie judaizm i zaratusztrianizm. Matka, Nonna, pochodziła ze świeżo wzbogaconego, ale o niższym statusie, klanu chrześcijańskiego. Rodzina Grzegorza Starszego nie zgodziła się na małżeństwo z Nonną i wygnała syna. Małżonkowie zamieszkali w Karbali, majątku rodziny Nonny. Dopiero po kilku latach doszło do porozumienia i wznowiono stosunki między dwoma klanami. Wkrótce później Grzegorz Starszy nawrócił się na chrześcijaństwo, choć data tego wydarzenia nie jest znana. Wiadomo, że najprawdopodobniej w roku 329, jako członek lokalnej elity, został wybrany na biskupa Nazjanzu. Nonna i Grzegorz Starszy pozostawali bezdzietni przez wiele lat. Ostatecznie urodziło im się troje dzieci: najstarsza Gorgonia, pierworodny syn Grzegorz i najmłodszy Cezary.
Grzegorz nie został ochrzczony ani w dzieciństwie, ani w młodości. Nawet zbliżając się do 30 roku życia, nie zdecydował się na zostanie katechumenem. Jego wykształcenie oparte zostało na klasycznej, przedchrześcijańskiej, greckiej literaturze i nauce.