Historia i jej pamiątki Znaleziska archeologiczne (m.in. na terenie parku miejskiego) poświadczają istnienie osadnictwa od epoki późnego neolitu do późnego brązu. Obecnie stosunkowo cicha i spokojna miejscowość została założona przez osmańskich Turków na początku XVI wieku jako centrum handlowo-rolnicze na bałkańskim szlaku wiodącym do Stambułu. Jej nazwa pochodna od tureckiego harman (młocka, miejsce młocki), oznacza młocarzy (tur. harmanlı) i odnosi się do licznych młocarni zbóż na tamtejszej urodzajnej równinie.
Początek rozwojowi niewielkiej osady dało zbudowanie dużego przydrożnego zajazdu (karawanseraju) na prawym brzegu Rzeki Charmalijskiej (tur. Oludere), później powiększonego i ukończonego przez miejscowego gubernatora Siawusz-paszę (późniejszego wezyra), któremu sułtan nadał okoliczne ziemie. Za jego rządów, dla ułatwienia ruchu podróżnego i przyciągnięcia kupców, w Charmanli powstał też kamienny łukowy, brukowany most oraz ozdobna fontanna publiczna (tur. çeşme), z którą wiąże się legenda o tureckim wezyrze i pięknej Bułgarce – „białonóżce” Gerganie.