2 sierpnia 2011 powołany na urząd ministra obrony narodowejPostanowienie Prezydenta Rzeczypospolitej Polskiej z dnia 2 sierpnia 2011 r. nr 1131-5-2011 o zmianie w składzie Rady Ministrów (). w pierwszym rządzie Donalda Tuska. 18 listopada 2011 objął to samo stanowisko w drugim gabinecie tego premiera. 14 grudnia 2013 wybrany na członka zarządu krajowego PO. 22 września 2014 objął stanowiska wicepremiera i ministra obrony narodowej w rządzie Ewy Kopacz.
W 2015 wystartował w wyborach parlamentarnych jako lider listy wyborczej PO w okręgu wałbrzyskim. Otrzymał 30 786 głosów, uzyskując tym samym mandat posła na Sejm VIII kadencji. 16 listopada 2015 zakończył urzędowanie na stanowisku wicepremiera i ministra. 26 lutego 2016 został wybrany na wiceprzewodniczącego PO.
W wyborach w 2019 z powodzeniem ubiegał się o poselską reelekcję z ramienia Koalicji Obywatelskiej, otrzymując 45 395 głosów. W styczniu 2020 ogłosił swój start w wyborach na przewodniczącego Platformy Obywatelskiej, otrzymując rekomendację od ustępującego z tej funkcji Grzegorza Schetyny. W wyniku głosowania w tym samym miesiącu zajął 2. miejsce wśród 4 kandydatów z wynikiem około 11% głosów.