Celtic F.C. 24 sierpnia 2010 roku Forster został wypożyczony do Celticu. Zadebiutował w wygranym 1-0 meczu z Motherwell, zachowując czyste konto. Następnie wystąpił we wszystkich meczach Celtiku w sezonie, opuszczając jedynie dwa mecze w pucharach krajowych. Był to bardzo udany sezon, ponieważ wraz ze szkockim klubem zdobył swoje pierwsze trofeum w karierze – Puchar SzkocjiScottish Cup final 2011: Celtic 3 Motherwell 0 match report The Telegraph, 21 maja 2011. Wystąpił także w przegranym finałowym spotkaniu Pucharu Ligi Szkockiej przeciwko RangersCeltic 1-2 Rangers: Jelavic scores extra time winner MirrorFootball, 20 marca 2011Celtic 1–2 Rangers (aet) BBC Sport, 20 marca 2011. W 44 rozegranych meczach nie wpuścił gola przez 24 spotkania, bijąc rekord z sezonu 2001/2002.