Jego kariera zaczęła brać tempa dopiero, gdy wrócił do Ajaksu i wygrał Puchar Holandii. Występy w tym sezonie zaowocowały powołaniem do reprezentacji Belgii. W następnym sezonie Ajax wygrał Tarczę Johana Cruijffa i kolejny Puchar Holandii. W 2007 po raz drugi z rzędu zdobył Tarczę Johana Cruijffa. Jego partnerem w obronie na początku był John Heitinga – absolwentem akademii Ajaxu, a później, kiedy Heitinga wyjechał do Atlético Madryt do Hiszpanii, stał się nim Jan Vertonghen. Po odejściu Klaasa-Jana Huntelaara w połowie sezonu 2008/2009, Vermaelen został kapitanem Ajaksu. Był nim przez pozostałą część sezonu, gdzie grał głównie jako lewy obrońca.
Arsenal 2009-10 Vermaelen dołączył do Arsenalu za wstępną opłatą 10 milionów euro (wzrosła ona potem do 12 milionów euro). 19 czerwca 2009 roku, podpisał czteroletni kontrakt. Po tym, jak Kolo Touré opuścił Arsenal i przeniósł się do Manchesteru City, Vermaelen przejął jego koszulkę z numerem 5 i wraz z Williamem Gallasem utworzyli świetny duet obrońców Arsenalu. Vermaelen zadebiutował w Premier League 15 sierpnia 2009 roku w wygranym 1-6 wyjazdowym meczu z Evertonem i strzelił w nim gola w 37. minucie. Został 84. graczem Arsenalu, który zdobył bramkę w swoim debiucie.