Ponadto w swoich nowych utworach nie tylko śpiewał i grał na perkusji, ale dał się poznać także jako wibrafonista. W 1951 skomponował jedną ze swoich najbardziej znanych piosenek – balladę Every Beat of My Heart, nagraną rok później przez mało znaną grupę wokalną The Royals (później The Midnighters). W wykonaniu zespołu The Pips, który zaraz potem zmienił nazwę na „Gladys Knight & the Pips”, utwór ten trafił w 1963 na pierwsze miejsca billboardowych list przebojów R&B i Hot 100.

Od 1951 nagrywał już dla firmy Mercury. Wkrótce potem na jednym ze swoich konkursów dla nowych wykonawców odkrył śpiewającą trzynastolatkę – Ettę James. Był współautorem i producentem jej pierwszego przeboju The Wallflower (lub Dance with Me, Henry) z 1955. Również w 1955 zaczął pracę w rozgłośni KFOX, stając się jednym z najbardziej popularnych prezenterów radiowych w Los Angeles. Niedługo potem związał się również z telewizją. Przez osiem lat prowadził cotygodniowy program telewizyjny „The Johnny Otis Show”.