På små holme ved Vidås nordbred og syd for Sankt Laurentiusstrømmen blev Tønder anlagt engang i tidlig middelalder. Der hersker usikkerhed om den ældste bebyggelses præcise alder og udbredelse, men den menes at være opstået for enden af Vestergade i første halvdel af 1100‑tallet for derefter at udvikle sig mod øst ad Storegade og Østergade i løbet af middelalderen. De ældste konkrete spor efter det tidlige Tønder er imidlertid stolpehuller fra 1200‑1300‑ tallet fundet ved Gråbrødretorv og Store gade 20. Tønder fik lybsk stadsret senest i 1243. I middelalderen rejstes to kirker, Sankt Laurentius Kirke, en kvaderstenskirke fra 1100‑tallet, der blev nedrevet allerede i ca. 1530, og Sankt Nikolaj Kirke fra ca. år 1500, som er den direkte forgænger for den nuværende Tønder Kristkirke. Hertil kommer byens franciskanerkloster fra 1238, der lå omkring Uldgades vestligste del ud mod Lillegade, og som blev nedrevet i tiden efter klosterets nedlæggelse i 1530. I årene 1265‑70 opførtes også den kongelige borg Tønderhus sydvest for bykernen. Byens placering lavt i terrænet mel‑ lem de to vandløb gav store problemer med oversvømmelser. Om dette vidner tilkøringen af adskillige meter komøg og andet affald siden højmiddelalderen.
Ved udgravninger bag Vestergade 25 og på Torvet omkring det gamle rådhus er der fundet klægdiger og tykke gødningslag fra 1200‑1500‑tallet, som foruden komøg også indeholdt mange velbevarede genstande. Disse lag viser, at byen i løbet af middelalderen gennemgik adskillige terrænhævninger, og at vådområderne mellem de oprindelige holme, byen var anlagt på, gradvis blev opfyldt. I løbet af middelalderen blev byen opdelt i fire områder, som inddeltes i såkaldte stavne, dvs. lange, smalle matrikler. Stavnene var nogle steder afgrænset af klægdiger, hvilket bl.a. er arkæologisk påvist bag Vestergade 25.
Da store dele af byen i dag er placeret på metertykke fyldlag, der har hævet byens terræn efter de mange store brande i byen, er kendskabet til det ældste gadenet begrænset. Det vides dog, at byen i middelalderen var gennemskåret af et øst‑vest‑gående hovedstrøg, Vestergade, Storegade og Østergade, og at Torvet blev anlagt ca. år 1500. Fra hovedstrøget førte et vejforløb mod sydøst ned til en bro og en dæmning, der ledte trafikken over Vidå og ud i Kær Herred. Her lå også en mølle, og den tilhørende mølledam har bredt sig øst for Søndergade, hvor der er konstateret tykke gytjelag på begge sider af Vidågade. Alt dette ændrede sig, da Vidå blev flyttet mod syd mellem 1587 og 1598, og en ny slotsmølle, Bachmanns Vandmølle, blev opført og Søndergade blev anlagt.
Tønder havde i middelalderen let adgang til havet via Vidå, som stod i forbindelse med Vadehavet, og herfra var der gode muligheder for sejlads til Nordtyskland, Nederlandene og England. Skibbroen, byens havn, blev anlagt i slutningen af middelalderen, men med anlæggelsen af havdiget mellem Højer og Rudbøl 1554‑56, der skulle sikre området mod oversvømmelse, sandede Vidå til. Tønder Havn mistede sin betydning, og i stedet foregik udskibningen fra Rudbøl og senere Højer.
Tønder nød derimod fra 1600‑tallet godt af studehandel og markeder. Forårsmarkederne kunne efterhånden samle over 6.000 kreaturer. Tønder udviklede sig i 1600‑ og 1700‑tallet til at blive et centrum for produktion og salg af kniplinger. De fleste af kniplingerne blev fremstillet af kniplepiger i private hjem rundtomkring i byens opland. I 1800‑tallet mistede kniplingerne imidlertid betydning. I 1788 blev Tønder Seminarium indviet som det første af sin slags i Norden. I 1801 lå indbyggertallet på 2.579.
Efter krigen i 1864 blev Tønder preussisk, og byen fik et større opland til handel end tidligere. Byen oplevede vækst fra anden halvdel af 1800‑tallet; hvor der i 1855 var 2.909 indbyggere, var tallet i 1901 steget til 3.969. Den første jernbane kom til Tønder i 1867 med station ved den senere Tønder Øst som endestation for banen fra Tinglev. I 1892 åbnede en jernbaneforbindelse til Højer Sluse, hvorfra turister kunne komme videre til den populære ø Sild.
Markederne blev i 1893 flyttet fra den centrale del af byen til markedspladsen ved Sønderport, og i 1921 tæt på banegården, nuværende Tønder H. De mange kunder fra markederne resulterede i, at der i 1905 var én beværtning for hver 49 indbyggere i byen. Undervisnings‑ og uddannelsesmulighederne forbedredes fra slutningen af 1800‑tallet. En teknisk skole åbnede i 1880, og i 1907 fulgte en handelsskole; Tønder Gymnasium blev oprettet i 1920 som Tønder Statsskole. Tønder Sygehus åbnede i 1898.
Ved afstemningen i forbindelse med Genforeningen i 1920 blev der afgivet 2.504 stemmer for tilhørs‑ forhold til Tyskland og 761 for Danmark; byen kom dog alligevel med til Danmark på trods af det høje tyske stemmetal. Indtil 1937 havde byen en hjemmetysk borgmester. Tysk skolevæsen blev repræsenteret i byen: I 1946 åbnede en tysk privatskole, og i 1953 fulgte Ludwig‑Andresen‑Schule med tysk bibliotek samt tysk vuggestue og børnehave i tilknytning hertil.
Efter Genforeningen oplevede byen en betydelig vækst, således var der i 1921 5.289 indbyggere, og dette tal var i 1950 vokset til 7.031. Tønder blev i 1920 garnisonsby, og nye kasernebygninger stod klar i 1936. I 1934 blev havnen i Tønder fyldt op og hermed opgivet.
I 1960’erne opstod der industrikvarterer sydvest for jernbanen og nord for Nordre Landevej. Allerede i 1958 åbnede Tønder Maskinfabrik A/S (TØMA) og voksede til en større virksomhed i 1960’erne og 1970’erne. I 1962 etablerede emballagevirksomheden Brødrene Hartmann A/S sig i Tønder, og i 1966 blev de første æggebakker produceret her. Virksomheden voksede, og i 1970 beskæftigede den ca. 170 personer.
I forbindelse med Kommunalreformen i 1970 blev Tønder administrativt centrum i den nyetablerede kommune af samme navn. 1980‑81 blev der bygget nyt rådhus syd for byen. Persontrafikken på jernbanen til Tinglev blev nedlagt i 1971, frem til 2002 blev der dog fortsat kørt med gods. Tønder Kaserne blev afviklet i 2002. I 1970 var der 7.469 indbyggere i Tønder, dette tal voksede til 8.262 i 1999, hvorefter det faldt til 7.896 i 2006.
