Oficjalnie urodził się pod nazwiskiem Muhammad Abd ar-Rahman Abd ar-Ra’uf Arafat al-KudwaAburish, Said K. (1998). From Defender to Dictator. New York: Bloomsbury Publishing. s. 7–32. . dnia 4 sierpnia 1929 roku w Jerozolimie. Miejsce i data urodzin są dyskusyjne – niektóre źródła podają Kair (24 sierpnia 1929, według kairskiego rejestru urodzeń) lub Strefę Gazy. Miał siedmioro rodzeństwa, a sam był drugim, licząc od najmłodszych, potomkiem. Okres jego dzieciństwa był rozdarty między Kair a Jerozolimę, co spowodowane było śmiercią jego matki w 1933 roku, przyczyną śmierci były dolegliwości nerek. Jasir w chwili śmierci matki miał cztery lata. Samotny ojciec nie będąc w stanie utrzymać siedmiorga dzieci odesłał Jasira i jego brata Fathiego do rodziny matki. Jasir wraz z bratem zamieszkali u wujka Salima Abu as-Sa’uda zamieszkałego w marokańskiej dzielnicy jerozolimskiego Starego Miasta. Jasir mieszkał z rodziną wujka przez cztery lata, a następnie trafił pod opiekę starszej siostry Inam. Arafat w późniejszych latach miał z ojcem złe kontakty, a gdy ten zmarł w 1952 roku, Arafat nie wziął udziału w pogrzebie ani nie odwiedził grobu ojca po powrocie do Gazy. Inam w wywiadzie dla biografa Arafata, brytyjskiego historyka Alana Harta, stwierdziła, że Jasir został kiedyś przez ojca mocno pobity.