W kadencji 2000–2004 był liderem pozostającej w opozycji frakcji konserwatystów. W kolejnej kadencji Sejmu pełnił funkcje przewodniczącego frakcji Związku Ojczyzny, przewodniczącego komisji spraw europejskich, a od 2006 wiceprzewodniczącego Sejmu. W wyborach parlamentarnych w 2008 po raz kolejny uzyskał mandat poselski, wygrywając w okręgu jednomandatowym, zaś jego ugrupowanie w tym głosowaniu zdobyło najwięcej mandatów.
27 października 2008, dzień po drugiej turze wyborów, w imieniu Związku Ojczyzny podpisał wstępne porozumienie z przedstawicielami TPP, LiCS i LRLS porozumienie o zawiązaniu centroprawicowej koalicji rządzącej (dysponującej ponad 80 głosami w Sejmie nowej kadencji). 17 listopada partie te oficjalnie podpisały porozumienie koalicyjne, a 20 listopada prezydent Valdas Adamkus podpisał dekret o przedstawieniu Sejmowi kandydatury Andriusa Kubiliusa na urząd premiera. Tydzień później Sejm zaakceptował jego kandydaturę na ten urząd, a 28 listopada prezydent mianował go na stanowisko szefa rządu. 9 grudnia Sejm zaakceptował program rządu, co zakończyło ostatecznie proces jego formowania.