26 marca obydwa fronty ukraińskie przystąpiły do uderzenia na Wiedeń.
Szybko nacierające w kierunku Sopronu prawe skrzydło 3 Frontu Ukraińskiego w nocy z 27 na 28 marca sforsowało Rabę i zlikwidowało niemiecką linię obrony na tej rubieży. Prawe skrzydło posunęło się tak daleko w kierunku Sopronu i Szombathely, że niemiecka 2 Armia Pancerna broniąca rejonu Nagykanizsa została od północy otoczona przez nie. W obawie przed całkowitym okrążeniem 28 marca 2 Armia Pancerna rozpoczęła odwrót z zajmowanych pozycji. 1 kwietnia lewe skrzydło 3 Frontu Ukraińskiego zajęło Nagykanizsa będące centrum węgierskiego rejonu naftowego.
Tymczasem siły 2 Frontu Ukraińskiego likwidowały oddziały wroga wzdłuż południowego brzegu Dunaju. Do 28 marca 46 Armia tego frontu odepchnęła oddziały niemieckie z brzegu rzeki na odcinku do Esztergomu, zajmując miasta Győr i Komárom. Od 25 marca paralelnie do północnego brzegu Dunaju w kierunku Bratysławy atakowały 7 Gwardyjska Armia i 53 Armia 2 Frontu Ukraińskiego. Do 31 marca zdobyły one Nitrę i sforsowały Wag. W rezultacie szerokość frontu, którym nacierały 2. i 3. Front Ukraiński, wynosiła już 200 km.