Już wkrótce zwrócił na siebie uwagę mediów, kiedy w wywiadzie udzielonym BBC powiedział, że 8 razy 7 równa się 54BBC News | UK | Minister's maths mistake.
Byers został członkiem gabinetu w lipcu 1998 r., kiedy to został naczelnym sekretarzem skarbu oraz członkiem Tajnej Rady. W grudniu 1998 r., po nagłej rezygnacji Petera Mandelsona, został ministrem handlu i przemysłu. Po wyborach 2001 r. został mianowany ministrem transportu, samorządów lokalnych i regionów. Działalność Byersa na tym stanowisku rychło stała się przedmiotem krytyki. Jej pierwszym powodem była odmowa ministra udzielenia finansowego wsparcia zadłużonego operatora brytyjskich linii kolejowych – Railtracka. Ostatecznie rząd, pod naciskiem City wypłacił odszkodowania akcjonariuszom Railtracku.
W tym samym czasie wybuchł skandal związany z e-mailem wysłanym 11 września 2001 r. przez doradczynię ministra, Jo Moore, w którym napisała, że dokonanego tego dnia ataki terrorystyczne stanowią dobrą okazję, aby ukryć to co powinniśmy pogrzebać. E-mail wywołał krytykę, głównie w związku z użytym w nim słowem bury ("pogrzebać").