Sønderborg menes, som de fleste danske købstæder, at være anlagt sent i 1100-tallet. Den opstod yderst på en halvø ved sammenløbet mellem Als Sund og Flensborg Fjord, hvor der var en beskyttet naturhavn, og hvor hele det frugtbare Als og Sundeved udgjorde oplandet.
Den ældste by lå placeret højt over havnen med Humletorvet som den centrale markedsplads og Stjernegade som vejen op til Als. I årtierne omkring år 1200 blev borgen Sønderborg anlagt på en naturlig holm uden for den stejle kyst, og byen fik navn efter borgen, den søndre borg på Als. Formentlig i 1200-tallet opførtes til byen en Sankt Nikolaj Kirke, der lå et sted ved Rosengade længst mod syd, og i samme tidsrum blev der anlagt et spedalskhedshospital nord for byen tæt på færgelejet til færgen mellem Als og Sundeved og hovedvejen til Als.
I løbet af middelalderen voksede byen mod nord langs Perlegade, og dens marked kom efterhånden til at finde sted på det trekantede torv foran det nuværende rådhus, der muligvis blev anlagt på dette sted i senmiddelalderen. Den samme udvikling gennemgik havnen, der oprindelig var knyttet til området mellem borgen og byen, men gradvis rykkede mod nord til færgelejet og spedalskhedshospitalet. Denne flytning af byens centrum betød, at Sankt Nikolaj Kirke kom til at ligge i byens periferi, og Sankt Jørgens Kapel (afløst af Sankt Marie Kirke i slutningen af 1500-tallet) i stigende grad overtog rollen som sognekirke, selv om den lå uden for stadsrettens grænse.
Sønderborgs stadsret, der ikke er bevaret, blev først udstedt mellem 1404 og 1427, men borgmester og råd omtales først i 1474. Byen, der var en af hertugdømmet Slesvigs mindste købstæder, fik fx aldrig et tiggermunkekloster og stod sandsynligvis meget direkte under slottets overhøjhed. Tydeligt blev det, da både Sønderborg og Flensborg i 1490 kom under den danske konge, og købmændene i Flensborg fik eneret på handelen med bønderne på Als og Sundeved. Flensborgs dominans fortsatte frem til slutningen af 1500-tallet. Skibsfarten kom, ved siden af slottet, i stigende grad til at udgøre et betydningsfuldt grundlag for borgernes økonomi.
Ved Reformationen lå Sønderborg i Flensborgs skygge med ca. 1.200 indbyggere, men over de næste 70 år blev indbyggertallet omtrent fordoblet. Vækst i det sønderjyske landbrugssamfund skabte øget handel, og etableringen af et hertughof i byen fra 1568 fik også betydning. Hans den Yngre støttede byen mod konkurrence fra både Flensborg og bondehandelen, og desuden skabte selve hoffet omsætning og grundlag for bl.a. specialiseret håndværk. 1600-tallet var præget af krige og kriser, og tabet af hertughoffet i 1667 var endnu et tilbageslag. I 1700-tallet kom der ny fremgang, og i 1801 lå indbyggertallet på 2.761. Ud over handel og håndværk blev søfart et hovederhverv. I 1730 havde byen 70 hjemmehørende skibe, om end de fleste var små. Skibene udførte især korn, men også varer som tegl, smør og æbler, mens de bl.a. hentede træ retur. Også skibsbyggeri fik stor betydning.
Englandskrigene betød tilbageslag, men der kom forholdsvis hurtigt derefter gang i søfart, handel og skibsbyggeri, og der kom ny vækst i indbyggertallet, der i 1845 lå på 3.299.
Det meste af byens befolkning var dansktalende, men tysk var stort set enerådende i administration og forretningsliv og dominerende i kirke og skole. I 1840’erne var byens borgerskab nationalt delt, men under hele Treårskrigen 1848‑51 var byen på danske hænder, og det danske kom til at dominere.
Perioden frem mod 1864 var præget af stor fremgang, men herefter indtrådte en stagnation, som varede resten af århundredet. Byen blev under krigen i 1864 hårdt ramt af bombardementer. Søfart og træskibsbyggeriet døde stort set ud; til gengæld fik havnen øget betydning som trafikhavn. Byen fik også en beskeden industri, hvilket dog ikke var nok til at sikre egentlig fremgang. Den danske administration, som var kommet til under og efter Treårskrigen, forsvandt atter, men byen havde solidt dansk flertal ved valget i 1867.
Efter år 1900 ændredes byens udvikling. Befolkningstallet steg kraftigt; i 1901 var der 5.522, og tallet lå i 1921 på 8.533. Drivkraften var det tyske militær. Siden 1864 havde den tyske hær holdt til på slottet, og i 1905 blev det besluttet at etablere en stor marinekaserne, som blev indviet i 1907. Byen blev udbygget med civile offentlige institutioner, og der opstod nye kvarterer med repræsentativ karakter.
Dette bidrog til at gøre byen meget tyskpræget. Ved rigsdagsvalget i 1912 stemte over halvdelen af vælgerne på tyske borgerlige partier og under en fjerdedel dansk. Ved folkeafstemningen i 1920 stemte 44 % dansk, men ved denne lejlighed havde byens militærfolk og de mange andre, der var flyttet til sydfra efter år 1900, ikke stemmeret. Sønderborg var blevet en overvejende tysk by, men den lå som en ø i et hav af landsbyer med massivt dansk flertal, idet 88 % i den omgivende landkreds (amt) stemte dansk.
Umiddelbart medførte Genforeningen et fald i befolkningstallet, da de tyske militærfolk forsvandt. Til gengæld indledtes en markant industriudvikling, som var hovedårsagen til, at byens indbyggertal i 1970 nåede op på 24.526. Allerede i 1921 stiftedes Nordisk Kamgarnsspinderi, som hurtigt blev en betydelig virksomhed, og i 1925 fulgte andelsslagteriet. Disse virksomheder samt margarinefabrikken fra 1889 var byens førende industrier i mellemkrigstiden. I 1951 åbnede JF Fabrikken, der fremstillede landbrugsmaskiner; hertil etableredesen række mindre fabrikker. Den voldsomme vækst i Danfoss kunne også mærkes i Sønderborg, skønt fabrikken ligger ca. 20 km mod nord.
Også i de offentlige institutioner var der vækst. De to sygehuse fra tysk tid blev slået sammen og udbygget til Sønderjyllands største, der fra 1958 fik tilknyttet sygeplejeskole. Ud over kommuneskoler, gymnasium og tysk privatskole kom der både en stor handelsskole med handelsgymnasium, en stor teknisk skole og et teknikum.
Den kraftige vækst reducerede hurtigt det tyske præg. Bortset fra en kort afbrydelse efter 2. Verdenskrig var der dog til stadighed tysk skole og bibliotek i byen.
Kommunalreformen i 1970 påvirkede ikke byen så meget, da den kun blev udvidet med de to nabosogne Dybbøl og Ulkebøl, hvor der allerede var en vis forstadsbebyggelse. Indbyggertallet voksede fortsat, men i væsentlig langsommere tempo end før; i 2006 lå det på 27.391. Byen forblev en vigtig industriby, om end der var udskiftning i virksomhedernes kreds. Kombinationen af et stærkt privat erhvervsliv og en uddannelsessektor, der især stod stærkt inden for det tekniske og merkantile, prægede byen, men også kulturinstitutioner som museum og bibliotek blev udbygget. Sygehuset blev i 1970’erne yderligere udbygget som Sønderjyllands Amts hovedsygehus.
