Odznaczony został medalem Pro Finlandia, komandorią Orderu Białej Róży Finlandii i komandorią Orderu Lwa Finlandii. W 1965 roku otrzymał Nagrodę Sibeliusa przyznawaną przez Fundację Wihuri, a w 1994 roku Nagrodę muzyczną Rady Nordyckiej.
Twórczość Muzyka Bergmana cechuje się doskonałością warsztatową i zwięzłością wypowiedzi. Szczególne miejsce w twórczości kompozytora zajmowała muzyka wokalna. Uważany jest za twórcę neoimpresjonistycznego, interesował się jednak także nowszymi trendami w muzyce, sięgał też po elementy zaczerpnięte z kultury muzycznej Bliskiego Wschodu.
Skomponował m.in. Suitę na orkiestrę smyczkową (1940), Tre aspetti d’una seria dodecafonica (1957), Aubade (1958), Simbolo (1960), Circulus (1965), Hathor Suite (1971), Colori ed improvvisazioni (1973), Bardo Thödal (1974), Lapponia (1975), Arctica (1979), Ananke (1982), Trio fortepianowe (1940), Kolme fantasiaa na klarnet i fortepian (1953), Concertino da camera na flet, klarnet, klarnet basowy, trio smyczkowe, perkusję i fortepian (1961), Suitę na gitarę (1949), suitę Intervalles na fortepian (1949), Sonatina na fortepian (1950), Exsultate na organy (1954), Majnätter na sopran i orkiestrę (1946), Ensamhetens sånger na głos i orkiestrę (1947), Rubaiyat na baryton, chór męski i orkiestrę (1953), Svanbild na baryton, chór męski i kwartet (1958), Aton na