Po śmierci Schultza z ręki Lucky’ego Luciano, Johnson związał się z włoską mafią. W następnych latach rozszerzył działalność o handel narkotykami i stał się królem Harlemu, gdyż w ramach układu z jedną z czołowych rodzin mafijnych Nowego Jorku uzyskał licencję na działalność w zamian za udziały w zyskach. Aresztowany u szczytu kariery w 1952 r. za handel heroiną, został skazany na 15 lat więzienia w Alcatraz. Przypisywano mu organizację w 1962 r. nieudanej ucieczki z tego więzienia trzech skazańców. Zwolniony z więzienia w 1963 r., po powrocie do Harlemu został przywitany paradą na swoją cześć. Po zwolnieniu powrócił do działalności przestępczej, którą prowadził do śmierci. Zmarł 7 lipca 1968 r. w Nowym Jorku z powodu zawału serca.
Jego bliskim przyjacielem z dzieciństwa był Malcolm X, jeden z przywódców ruchu afroamerykańskiego w USA. Johnson pomógł też w elekcji pierwszego czarnego kongresmena z Nowego Jorku, pastora Adama Claytona Powella Jr. W późniejszych latach jego prawą ręką był Frank Lucas, bohater filmu Amerykański gangster. W czasie odsiadywania kar więzienia rozwinął pasję pisania poezji, a za sprawą zamiłowania do książek i filozofii zyskał pseudonim profesor.