Pod rządami dynastii Sui (581–618) miasto ustanowiono siedzibą prefektury Lanzhou. W 763 roku obszar najechali Tybetańczycy i zajmowali go do 843 roku, kiedy kontrolę nad nim odzyskali władcy dynastii Tang (618–907). W XI w. miasto zostało włączone do tanguckiego państwa Xixia, lecz już w 1041 roku odzyskała je dynastia Song (960–1279), przywracając mu nazwę Lanzhou. Od 1127 roku miasto kontrolowała dynastia Jin (1115–1234). W 1235 roku Lanzhou opanowali Mongołowie. Za rządów dynastii Ming (1368–1644) prefekturę Lanzhou zdegradowano do rangi powiatu i ustanowiono częścią prefektury Lintao. W 1666 roku Lanzhou uczyniono stolicą nowo powstałej prowincji Gansu. W 1739 roku przeniesiono z Lintao do Lanzhou siedzibę prefektury, nadając jej nazwę Lanzhou.
Miasto zostało poważnie zniszczone podczas powstania dungańskiego w latach 1862–1877. W 1909 roku otworzono w mieście uniwersytet. W czasie wojny chińsko-japońskiej (1937–1945) do Lanzhou poprowadzono drogę samochodową, łączącą z Xi’anem. Droga była głównym traktem komunikacyjnym w północno-zachodnich Chinach aż do wybudowania linii kolejowej Lanzhou-Urumczi. Miasto zostało zbombardowane przez Japończyków w czasie wojny.