Po śmierci rodziców Rautavaarą zaopiekowała się jego ciotka, Hilja Teräskeli, która zerwała z religijnością domu rodzinnego i podobnie jak jego matka studiowała medycynę. Razem udali się do Turku, gdzie Hilja została mianowana profesorem na wydziale okulistyki miejscowego uniwersytetu. Rautavaara znalazł tam biografie kompozytorów Sävelten mestareita opracowane przez fińskiego kompozytora Sulha Rantę (1901–1960), które stały się natchnieniem do pisania własnych kompozycji. Nie uczył się jednak systematycznie – przeżywał okres wzlotów i upadków, czasem zaczynał wręcz naukę od nowa. Okres ten skończył się, gdy miał 17 lat – znalazł wtedy nową nauczycielkę – Astrid Joutseno. Jej liberalne podejście odpowiadało przyszłemu kompozytorowi.
Następnie rozpoczął studia muzykologiczne na Uniwersytecie w Helsinkach, ukończył je w 1953 roku.
Studia W 1948 roku został przyjęty do Akademii Sibeliusa w Helsinkach. Początkowo zapisał się na zajęcia z kompozycji do Selima Palmgrena (1878–1951), ten jednak uznał, że Rautavaara musi najpierw zdobyć dobre podstawy z harmonii. Dopiero po śmierci Palmgrena w 1951 roku, kiedy katedrę kompozycji objął Aarre Merikanto (1893–1958), Rautavaara został przyjęty w poczet studentów kompozycji, a Merikanto zachęcał go, by został kompozytorem.