Po śmierci pierwszej żony w 1545 r. zawarł dwa lata później potajemnie małżeństwo z Barbarą Radziwiłłówną, którą poznał długo przed ślubem, około 1544 r., i miał z nią romans jeszcze za życia żony Elżbiety. Drugie małżeństwo Zygmunta II zostało zawarte wbrew woli ojca Zygmunta I i matki Bony, a gdy zostało ujawnione, magnateria uznała je za mezalians, godzący w powagę dynastii i państwa. Mimo to Barbara została 7 grudnia 1550 r. koronowana na królową Polski. W następnym roku zmarła. Pochowana została w katedrze wileńskiej. Zygmunt ożenił się jeszcze trzeci raz w 1553 r., z księżniczką austriacką, młodszą siostrą swej pierwszej żony – Katarzyną. Zawierając to małżeństwo, miał jeszcze nadzieję na potomka i zależało mu na dziedzicznym tronie litewskim dla ewentualnego syna, okazało się jednak, jak poprzednie, bezpotomne. Problem dziedzictwa jagiellońskiego na Litwie stał się więc bezprzedmiotowy, w tej sytuacji dążono ze strony Polski do zawarcia unii realnej między Polską a Litwą, tak aby związek obu krajów został utrzymany w przyszłości. Matka króla, skłócona z dworem królewskim oraz z synem głównie z powodu jego nieudanego i bezdzietnego małżeństwa z trzecią żoną, wyjechała do Bari we Włoszech i tam w 1557 r. zmarła – otruta przez Pappacodę, zausznika hiszpańskich Habsburgów. W 1566 r.