W wyborach w 2004 uzyskał mandat posła do Parlamentu Europejskiego. Był członkiem Grupy Socjalistycznej i wiceprzewodniczącym PEProfil na stronie Parlamentu Europejskiego. [dostęp 2015-10-13].. W 2005 zrezygnował z zasiadania w Europarlamencie w związku z objęciem urzędu ministra stanu oraz ministra administracji i spraw wewnętrznych w gabinecie José Sócratesa.
Z administracji rządowej odszedł w 2007 w związku z wyborem na stanowisko burmistrza Lizbony; reelekcję uzyskał w 2009. W 2014 został liderem portugalskich socjalistów. Urząd burmistrza portugalskiej stolicy sprawował do kwietnia 2015, gdy zrezygnował, by skupić się na prowadzeniu kampanii wyborczej. W wyborach w październiku tego samego roku socjaliści ulegli centroprawicowej koalicji, António Costa uzyskał natomiast mandat posła do Zgromadzenia Republiki.
Lider socjalistów odmówił wsparcia mniejszościowego rządu Pedra Passosa Coelho. Sam uzyskał wsparcie ze strony ugrupowań eurosceptycznych i komunistycznych – Bloku Lewicy oraz Unitarnej Koalicji Demokratycznej, z którymi przegłosował wotum nieufności dla gabinetu centroprawicy.