Podczas wojny domowej w Mandacie Palestyny doszło w dniu 30 grudnia 1947 do masakry żydowskich robotników pracujących w rafinerii w Hajfie. Ben-Nun współtworzył wówczas siły żydowskiej samoobrony w Hajfie. Wykorzystując swoje doświadczenie morskie, wspierał on przemyt uzbrojenia i amunicji dla Hagany. W kwietniu 1948 został przeniesiony do 4 Batalionu Palmach (Brygada Harel) ochraniającego konwoje do Jerozolimy. 23 kwietnia został ranny w głowę i hospitalizowany w Jerozolimie. Gdy w maju 1948 wybuchła I wojna izraelsko-arabska został przeniesiony do nowo tworzonej marynarki wojennej i otrzymał awans na majora (Rav Seren). Jego pierwszą misją było dowodzenie statkiem, który miał przewieźć czołgi z portu Szybenik w Jugosławii. Czołgi były zakupione w Czechosłowacji, i w wyniku rozłamu pomiędzy Josipem Tito a Blokiem Wschodnim, nie dotarły do Jugosławii. W rezultacie Ben-Nun utknął w Szybeniku. Po pięciu tygodniach bezczynności popłynął do Neapolu we Włoszech, gdzie nastąpiła awaria jego statku. Hagana powierzyła mu wówczas dowodzenie jachtem Albatros, którym przewiózł do Izraela 400 karabinów maszynowych Beretta. Po wielu trudnościach dopłynął do Hajfy w sierpniu 1948.