Przeprowadzona w 2010 reforma prawa pracy skutkowała strajkiem generalnym. W październiku tegoż roku José Luis Zapatero dokonał rekonstrukcji swojego gabinetu.
W kwietniu 2011 ogłosił, że nie będzie ubiegał się o ponowny wybór na premiera. W maju 2011 kierownictwo PSOE wskazało Alfreda Péreza Rubalcabę jako kandydata na nowego lidera partii, który miał ją poprowadzić do kolejnych wyborów w 2012. Kryzys finansowy doprowadził ostatecznie do wyborów przedterminowych jeszcze w tym samym roku, które socjaliści przegrali, uzyskując najgorszy wynik od czasu demokratyzacji. José Luis Zapatero nie ubiegał się o mandat poselski, 21 grudnia 2011 na stanowisku premiera zastąpił go lider ludowców Mariano Rajoy. Partią formalnie zarządzał do 4 lutego 2012, kiedy to nowym sekretarzem generalnym został Alfredo Pérez Rubalcaba.
W 2012 dołączył do Rady Stanu, rządowego organu doradczego.
W maju 2026 hiszpański sąd Audiencia Nacional wszczął przeciwko niemu postępowanie karne w zakresie zarzutów dotyczących m.in. prania pieniędzy i handlu wpływami. Byłemu premierowi zarzucono przejęcie blisko 2 mln euro z 53 mln euro pomocy publicznej dla linii lotniczych Plus Ultra Líneas Aéreas w okresie pandemii COVID-19.