W latach 1792–1801 działał przy budowie Kanału Bydgoskiego, projektował rozbudowę i przebudowę portów w Gdańsku i Elblągu.

W 1793 Gilly otworzył swoją uczelnię budowlaną w Berlinie, pięć lat później został współzałożycielem Akademii Budowlanej (późniejszej Technische Hochschule, obecnie Uniwersytet Techniczny w Berlinie).

Po śmierci syna Friedricha (3 sierpnia 1800) David Gilly stracił siły twórcze i zajmował się jedynie mniejszymi pracami. Nie zmieniła tego podróż do Paryża w latach 1803–1804. W 1804 zmarła żona Gilly’ego, po czym poślubił jej siostrę, Juliane. Zmarł w wieku 60 lat w Berlinie.

Działalność Gilly rozwinął teorię i praktykę architektury wiejskiej na terenie Prus, kładąc nacisk na funkcjonalność projektowanych budowli. Jego berlińska Akademia Budowlana, bazująca na modelu École polytechnique w Paryżu, stała się najważniejszym ośrodkiem niemieckiego klasycyzmu. Do uczniów Gilly’ego należał m.in. Karl Friedrich Schinkel.