W 1895 emigrował z rodziną do Stanów Zjednoczonych, osiedlając się w Bostonie. Wtedy też zmienił nazwisko na amerykańsko brzmiące Khalil Gibran. W 1898 Gibran wrócił sam do Bejrutu, gdzie przez cztery lata uczęszczał do prowadzonej przez księży szkoły Madrasat al-Hikma („Szkoła Mądrości”). W Libanie pisarz rozwinął swoją znajomość literatury oraz języka arabskiego. Nabrał wówczas również niechęci do zinstytucjonalizowanych form religii, co było widoczne w jego późniejszej twórczości. Po powrocie do Bostonu w 1903 Gibran dowiedział się o śmierci swojej młodszej siostry Sultany. Niedługo potem umarli na gruźlicę również jego matka i brat. W tym samym czasie pisarz opublikował swoje pierwsze dzieła, m.in. wydana w 1905, jeszcze w Libanie, książka Nubthah fi Fan Al-Musiqa (pol. Muzyka) czy rok później zbiór opowiadań Ara’is al-Murudż (pol. Narzeczone łąk).
W 1907 Gibran poznał Mary Elizabeth Haskell, dyrektorkę renomowanej szkoły dla dziewcząt w Bostonie. Haskell częstokroć pomagała pisarzowi materialnie. Znajomość z czasem przekształciła się w romans trwający do końca życia pisarza i choć para oficjalnie pozostawała przyjaciółmi, to jednak ich korespondencja, opublikowana po latach, pokazuje prawdziwą bliskość owego związku.