Okolice dzisiejszego Augustowa zasiedlane były głównie przez przybyszów z północno-wschodniego Mazowsza, a osadnictwo organizowali m.in. Radziwiłłowie. W 1526 powstała tu karczma wystawiona przez Jana Radziwiłła na skrzyżowaniu szlaków handlowych z Litwy i Białorusi do Prus, Warszawy i Krakowa. Od 1571 istniało tu starostwo obejmujące ziemie pojaćwieskie, prawdopodobnie istniejące już wcześniej.
Według legendy Augustów zawdzięcza swoje powstanie pierwszej schadzce Zygmunta II Augusta i Barbary Radziwiłłówny, dla upamiętnienia której król założył w jej miejscu miasto. Jednak w rzeczywistości już w 1546 r. królowa Bona podjęła próbę założenia miasta o nazwie Zygmuntowo na wschodnim brzegu Netty z analizy źródeł wynika, że powstała osada to późniejsza Hołynka nad Świsłoczą niemająca nic wspólnego z Augustowem – obecnie nie istniejeZ późniejszej drobiazgowej analizy źródeł wynika, że powstałe wtedy Zygmuntowo to późniejsza Hołynka nad Świsłoczą, w miejscu zupełnie innym niż dzisiejszy Augustów – miejscowość znalazła się przy granicy polsko-białoruskiej i obecnie nie istnieje.. Do wytyczania Augustowa w 1550 roku skierowano starostę knyszyńskiego Piotra Chwalczewskiego oraz architekta i inżyniera Joba Preytfusa.