W 1798 roku otrzymał nominację na brygadiera i wyruszył z Napoleonem na wyprawę do Egiptu. Sułkowski jako jeden z pierwszych wdarł się na mury twierdzy na Malcie. Brał udział w kilku bitwach (m.in. podczas oblężenia Aleksandrii i w bitwie pod piramidami), odnosząc rany. Za odwagę wykazaną podczas bitwy pod Salkeyeh Napoleon awansował go z szefa szwadronu na szefa brygady, co oznaczało zamianę szlifów kapitana na dystynkcje pułkownika. Po podleczeniu ran Sułkowski został przydzielony przez Napoleona do zadań cywilnych w Instytucie Egipskim; zajmował się organizacją sądów i oświatą. Zginął 22 października 1798 roku, gdy wracając ze zwiadu, na przedmieściach Kairu został zaatakowany przez oddział powstańczy. Aby uczcić jego pamięć, Napoleon nazwał imieniem Sułkowskiego jeden z fortów pod Kairem. Jego nazwisko też zostało wpisane na kolumnie południowej Łuku Triumfalnego w Paryżu. Nazwę (ros. Мыс Сулковского, ang.