W 1586 r. otworzył w Durlach gimnazjum nazwane od jego imienia Ernestinum. W 1590 r. zmarł średni brat Ernesta Fryderyka, katolicki Jakuba III i Ernest Fryderyk zajął jego księstwo (dzieląc się później nim z pozostałym bratem Jerzym Fryderykiem) oraz zaczął wychowywać w duchu protestanckim jego córkę. W 1592 r. zbrojnie interweniował w sporze o biskupstwo Strasburga. W 1594 r. zawarł sojusz z innymi protestanckimi książętami znad Renu, który był prekursorem późniejszej unii protestanckiej.
mały|left|Ziemie margrabiów Baden-Baden od XVI do XVIII w.; ziemie przejęte przez Ernesta Fryderyka to część księstwa na prawym brzegu Renu Także w 1594 r. zajął księstwo Baden-Baden, należące do jego katolickiego kuzyna Edwarda Fortunata. Awanturniczy kuzyn zadłużył do tego stopnia swoje księstwo, że mogło być ono przejęte przez jego dłużników. Ernest Fryderyk, mimo sprzeciwu cesarza, sam zbrojnie zajął większość księstwa i sprawował tam odtąd rządy jako administrator. Działał też w celu zmiany księstwa Baden-Baden na protestanckie. Uniknął przy tym zamachu na swoje życie zorganizowanego przez Edwarda Fortunata. Po śmierci kuzyna w 1600 r.