2 grudnia wystąpił w spotkaniu ze Steauą Bukareszt, a dzień później podpisał nowy kontrakt z Liverpoolem, który miał zatrzymać go w klubie z Anfield do 30 czerwca 2014 roku.
Sezon 2011/2012 20 sierpnia 2011 roku zagrał cały mecz z Arsenalem i pomógł Liverpoolowi w zachowaniu czystego konta. Bliski był też trafienia bramki, gdy w drugiej połowie strzelił zza pola karnego w słupek. Selekcjoner reprezentacji Anglii, Fabio Capello, który był obecny na tym meczu, pochwalił jego występ. 27 sierpnia 2011 doznał kontuzji w meczu z Bolton Wanderers. Pomimo wcześniejszych obaw, szybko powrócił do gry i już 21 września 2011 roku zagrał 86 minut z Brighton & Hove Albion. Trzy dni później zagrał cały mecz z Wolverhampton Wanderers.
W sezonie 2011/2012 Kelly zdobył z drużyną klubową Puchar Ligi Angielskiej, strzelając bramkę w ćwierćfinale z Chelsea.
Sezon 2012/2013 Pierwszy występ w sezonie 2012/2013 zaliczył, zmieniając Glena Johnsona w drugiej połowie meczu Ligi Europy z FK Homel. W pierwszym meczu ligowym zagrał od pierwszych minut na prawej obronie, a podstawowy prawy obrońca Glen Johnson wystąpił na lewej stronie. 23 września 2012 roku nabawił się kontuzji kolana w meczu z Manchesterem United i został wykluczony z gry na około sześć miesięcy.