Historia mały|lewo|Karawanseraj w Karadżu mały|Pałac Morvarid mały|Pałac Solaymaniya Obszar, na którym znajduje się miasto, był zamieszkały od epoki brązu (cmentarzysko Churwin) i epoki żelaza (Kalak). W X wieku arabski geograf Al-Mukaddasi wymienił Karadż jako jedną z wiosek w domenie miasta Rej. Tak samo wskazywał na początku XIII wieku Jakut Ibn Abdallah al-Hamawi. W XIV-wiecznym dziele Nuzhat al-qulub perskiego geografa Hamdallaha Mustafiego Karadż wymieniony jest jako miejscowość zależna od Taleghanu.
Miasto położone było na szlaku karawan prowadzącym z Kazwinu do Reju oraz z Teheranu do Tebrizu. W okresie panowania Safawidów, po przeniesieniu siedziby rządu Persji do Teheranu, znaczenie Karadżu wzrosło. W XVII wieku w mieście zbudowano duży karawanseraj oraz kamienny most, który do końca XX wieku służył jako główna przeprawa przez rzekę Karadż.