Powrót do Europy mały|Rodzina Rautavaary, rok 1961 Rautavaara wrócił do Europy w 1957 roku, uzyskał dyplom Akademii Sibeliusa i w tym samym roku rozpoczął naukę u Wladimira Vogla (1896–1984) w szwajcarskiej Asconie. W latach 1957–1958 uczył się w Hochschule für Musik und Tanz (Szkoła Muzyki i Tańca) w Kolonii u Rudolfa Petzolda. Poznawał wtedy technikę dodekafoniczną i jej „dramatyzm” i stworzył operę Kaivos (pol. „Kopalnia”) na niej opartej (1957–58/60). Kaivos zapoczątkowała dodekafoniczny okres twórczości Rautavaary, który trwał dziesięć lat. Potem porzucił ten gatunek na 20 lat, skupiając się na kompozycjach kameralnych, orkiestrowych i wokalnych.

W latach 1957–1959 był wykładowcą na Akademii Sibeliusa.

W lutym 1959 roku nauczycielka muzyki i mezzosopranistka Mariaheidi Suovanen (1927–2004) poprosiła kompozytora o towarzyszenie jej podczas uroczystości z okazji 20-lecia Fińskiej Fundacji Kultury (fiń. Suomen Kulttuurirahasto). Tak rozpoczęły się relacje między Rautavaarą a Suovanen, którzy wkrótce wzięli ślub. Małżeństwo trwało ponad 20 lat, jednak nie było udane i zakończyło się w 1982 roku. Para miała troje dzieci: Yrję, Markojuhaniego i Olofa. Mimo niepowodzeń osobistych Rautavaara przeżywał twórczy okres w karierze kompozytorskiej. Powstało wtedy wiele jego wybitnych dzieł, np.