Przez napięcia wybuchła mafijna wojna, którą Costello przegrał.
W 1927 roku Costello, Luciano i były chicagowski gangster Johnny Torrio organizowali duże dostawy alkoholu z Kanady i Europy na wschodnie wybrzeże Stanów Zjednoczonych. Minimalizowali koszty produkcji i dzięki temu uzyskiwali wysokie profity, co dawało im przewagę nad innymi gangsterami trudniącymi się tym procederem.
Wojna Castellammarese W 1928 roku Costello i Luciano byli uważani za dwóch młodych i ambitnych gangsterów, jednak wojna pomiędzy ich włoskimi wspólnikami odsunęła ich na jakiś czas na boczne tory. Bezpośredni szef Costello Giuseppe „Joe Boss” Masseria zaczął wchodzić w konflikt z Salvatore Maranzano, który wcześniej przyjechał z Sycylii z miejscowości Castellammare del Golfo (stąd później nazwa wojny). Masseria prawie zdołał zdobyć tytuł Szefa wszystkich szefów (cappo di tutti capi) i na jego przeszkodzie stał tylko Maranzano, z którym musiał się liczyć. Doszło do wojny między Maranzano a Masserią, którego wspólnikami byli Costello, Luciano i Genovese.