Przez ojca dziewczynka była wnuczką cara Mikołaja I, bratanicą cara Aleksandra II i kuzynką cara Aleksandra III.
Otrzymała imię Olga, które było dość często nadawane dziewczynkom związanym z rosyjską rodziną cesarską – nosiła je chociażby jej ciotka, siostra jej ojca, Olga Romanowa (królowa Wirtembergii). Imię Olga nosiła również św. Olga Kijowska, wielka księżna kijowska, święta Kościoła katolickiego i prawosławnego.
W dzieciństwie Olga nazywana była Muguet (fr. konwalia) i była opisywana jako bardzo spokojna i nieśmiała, zwłaszcza w porównaniu do swojej siostry, Wiery. „Moja Olga to urocze dziecko, jest moją radością i powodem do dumy. Jest tak słodka, wesoła, prosta i posłuszna” – pisała o dziewczynce jej matka, Aleksandra. Natomiast najbliższe relacje łączyły Olgę z jej starszym bratem, Mikołajem, z którym utrzymywała kontakt nawet po jego wygnaniu.
W 1862 ojciec Olgi, Konstanty, został mianowany przez swojego brata, Aleksandra II, namiestnikiem Królestwa Polskiego. Nie został jednak dobrze przyjęty przez Polaków, o czym świadczy fakt, że dzień po tym, gdy przybył z rodziną do Warszawy, dokonano na niego nieudanego zamachu.