Podczas pobytu w Ziemi Świętej zachorował i trafił do szpitala św. Jana Jałmużnika w Jerozolimie, założonego w 1070 roku przez kupców z włoskiej Republiki Amalfi. Po wyzdrowieniu wstąpił do bractwa istniejącego przy tym szpitalu. Dzięki swojej aktywności i talentom organizacyjnym został przełożonym tego szpitala i znajdującego się przy nim bractwa. Z czasem został przełożonym także leprozorium Świętego Łazarza za murami miasta.

W 1097 roku, gdy krzyżowcy zbliżali się do Jerozolimy, dowódca fatymidzki Iftichar-ad Daul nakazał wydalenie z miasta wszystkich chrześcijan. Z niewiadomych przyczyn nakaz ten nie objął Gerarda i jego bractwa. Legenda głosi, że podczas oblężenia miasta Gerard pojawiał się na murach i rzucał w krzyżowców chlebem, tłumacząc otaczającym go muzułmanom, że chce pokazać oblegającym, że miasta nie zdobędą głodem i żeby złamać ich morale. Historycy przypuszczają jednak, że w ten sposób mógł przekazywać informacje krzyżowcom albo ich dożywiać. Pośrednio potwierdza to fakt, że zaraz po zdobyciu miasta bractwo i szpital otrzymały liczne przywileje i nadania. Niemniej jednak został uwięziony przez muzułmanów, był przesłuchiwany i torturowany. Dopiero upadek miasta przyniósł mu uwolnienie.