Według doniesień, Elton John bezskutecznie ubiegał się o stanowisko głównego wokalisty w nowo powstałej grupie.
Według książeczki, która była dołączona do ich pierwszego albumu, nazwa zespołu była odniesieniem do fikcyjnej postaci, „łagodnego olbrzyma”, który spotyka grupę muzyków i jest zachwycony ich muzyką. Postać ta jest niczym z renesansowych opowieści François Rabelais’go.
Od samego początku Gentle Giant był zespołem szczególnie elastycznym ze względu na wyjątkowo szerokie umiejętności muzyczne jego członków. Na każdym albumie gromadził on w sumie czterdzieści sześć instrumentów – wszystkie z nich były grane przez członków grupy – a pięciu z sześciu członków śpiewało, co umożliwiało zespołowi pisanie i wykonywanie poszczególnych harmonii wokalnych i kontrapunktów. Podejście zespołu do pisania piosenek było równie zróżnicowane, łącząc wiele pomysłów i wpływów, niezależnie od tego, czy były one uważane za komercyjne czy nie.
Debiutancki album, Acquiring the Taste i Three Friends (Lata 1970–1972) thumb|Gary Green (1974)Pierwszy album zespołu nosił tytuł Gentle Giant i ukazał się w 1970 roku nakładem Vertigo Records.