We wrześniu 1958 roku Provenzano był jednym z 14 zamachowców, którzy wspierali Leggia w zamachu i morderstwie Navarry. Leggio automatycznie stał się głową rodziny, a Provenzano w ciągu następnych pięciu lat pomagał mu w likwidowaniu wszystkich pozostałych współpracowników Navarry. W maju 1963 roku Provenzano zaczął się ukrywać po nieudanym zamachu na jednego z ludzi Navarry. Twierdził, że nie ukrywał się przed policją, lecz przed vendettą. W tym czasie Leggio powiedział o nim: „Strzela jak Bóg, ale mózg ma jak kurczak”. 10 września tego samego roku został wypuszczony list gończy za zabójstwa ludzi Navarry. Od tej pory Provenzano musiał ukrywać się także przed policją. W 1974 roku Leggio został schwytany i uwięziony za morderstwo, na swoim miejscu obsadził Toto Riina, a Provenzano stał się jego prawą ręką.

Provenzano brał udział w masakrze na Viale Lazio 10 grudnia 1969, czyli ataku na Michele Cavataio. Cavataio miał możliwość zabicia Calogero Bagarella, starszego brata Leolouca Bagarella, szwagra Riiny. Legenda głosi, że Provenzano uratował sytuację dzięki swojemu pistoletowi maszynowemu Beretta 38/A oraz zyskał reputację „zabójcy z jajami”.