6 sierpnia 1996 roku piłkarz został za 3,5 mln funtów sprzedany do Arsenalu. W barwach „Kanonierów” zadebiutował 16 września przeciwko Sheffield Wednesday. Natomiast pierwszą bramkę zdobył 7 grudnia w meczu z Derby. Vieira bardzo pomógł „Kanonierom” w zdobyciu pucharu oraz dwukrotnie mistrzostwa Anglii. Do niego należy rekord czerwonych kartek w jednym sezonie, mianowicie aż 9. Po piłkarza zgłosił się powtórnie A.C. Milan. 26 lutego 1997 r. Vieira zadebiutował w reprezentacji „trójkolorowych” przeciwko Holandii. Vieira zagrał również parę meczów na mundialu w 1998, który Francuzi wygrali. Podczas meczu finałowego, w którym Vieira wszedł z ławki, zaliczył asystę przy golu Emmanuel Petita.
Dwa lata po mundialu we Francji na boiskach Belgii i Holandii zaliczył sześć występów w barwach trójkolorowych i przyczynił się do zdobycia przez nich mistrzostwa Europy. W tym samym roku, tuż przed mistrzostwami zaliczył także występ w finale Pucharu UEFA, w którym Arsenal uległ Galatasaray SK. Następnym sukcesem było zdobycie Pucharu Konfederacji w 2001 r. Vieira zdobył też mistrzostwo Anglii w 2002 roku oraz Puchary Anglii w 2002 i 2003. Zdobył też srebrny medal na mistrzostwach świata w Niemczech w 2006.
Latem 2005 roku został sprzedany z Arsenalu do Juventusu.