Później przyznawał się do wpływu The Beatles na 10cc, a osobiście, jako gitarzysta basowy – do wpływu Paula McCartneya. W latach 1965–1966 skomponował szereg piosenek dla innych wykonawców, w tym dla: The Yardbirds („For Your Love”, „Heart Full of Soul” i „Evil Hearted You”), The Hollies („Bus Stop”) i Herman’s Hermits („No Milk Today”).
W lutym 1966 roku Gouldman zadebiutował jako solista wydając singel „Stop or I’ll Be Gone”; współpracował także z Friday Brown, piosenkarką z Manchesteru (wyprodukował później jej singiel, „Ask Any Woman”). W listopadzie 1966 roku Brown dołączyła, razem z Gouldmanem, do zespołu High Society, którego członkiem był między innymi John Paul Jones, przyszły basista Led Zeppelin. High Society nagrał jednak tylko jeden singiel, „People Pass By”.
W marcu 1968 roku Gouldman został członkiem zespołu The Mindbenders, w składzie którego był między innymi Eric Stewart. Zespół ten rozwiązał się 22 listopada tego samego roku. Ważnym etapem w karierze Gouldmana było skorzystanie z zaproszenia Erica Stewarta i wstąpienie w charakterze partnera do studia nagraniowego Strawberry Studios, zorganizowanego przez Stewarta i Petera Tattersalla.