Występy na żywo "Give A Little Bit" miał zostać wydany na albumie Paris, jednak członkowie zespołu stwierdzili, że żadna z nagranych wersji nie nadaje się do wydania z powodu złej jakości. Od czasu odejścia Rogera Hodgsona z zespołu piosenka ta jest stałym punktem jego repertuaru koncertowego. Utwór został wykonany również podczas koncertu Hodgsona z Ringo Starrem w 2001 roku i znajduje się na albumie Starra pt. Ringo Starr and Friends. W niedzielę 1 lipca 2007 roku Roger Hodgson zaśpiewał tę piosenkę podczas Koncertu dla Diany na stadionie Wembley w Londynie.
Po odejściu Hodgsona w 1983 roku zespół wyłączył utwór z repertuaru koncertowego. Powrócił on dopiero podczas trasy grupy w 2002 roku, zatytułowanej "One More For The Road Tour". Śpiewał ją wtedy Jessie Siebenberg. Utwór był grany również podczas trasy koncertowej pt. "70-10 Tour" w 2010 roku.
Spis utworów 1977: singiel 7" Strona A "Give A Little Bit" – 3:20 Strona B "Downstream" – 4:00
1990: singiel CD "Give A Little Bit" – 4:07 "The Logical Song" (Live) – 3:41 "Bloody Well Right" (Live) – 6:11