Sielanka jednak nie trwała długo i kilka miesięcy później Mayall podziękował Fraserowi za współpracę.
Do spotkania Frasera z pozostałą trójką Kossoff, Kirke, Rogers doszło według niektórych źródeł dzięki producentowi oraz właścicielowi muzycznego klubu Mike'owi Vernerovi, który za pośrednictwem Kornera skontaktował wspomnianą trójkę z Fraserem. Niebawem cała czwórka zakłada Free.
W roku 1971 zespół chwilowo zawiesza działalność, a Fraser w tym czasie powołuje trio Toby, które uzupełnili: gitarzysta Adrian Fischer oraz perkusista Stan Speake. Pomimo nagrania materiału, płyta nie została wydana, a Fraser w grudniu 1971 wrócił do Free, by po wydaniu w roku 1972 albumu Free at Last na dobre opuścić zespół.
Latem 1972 zakłada Sharks z wokalistą o przydomku Snips, gitarzystą Chrisem Speedingiem oraz perkusistą Marty Simonem. W kwietniu 1973 ukazuje się ich album First Water po czym Fraser odchodzi z zespołu. W roku 1974 pojawia się najpierw w grupie Fraser, Miller Band, a nieco później w The Andy Fraser Band, w której grali również: Nick Judd na instrumentach klawiszowych oraz Kim Turner na perkusji.