Aabenraas arkitektur, 1600-tallets store brande betød, at man nu kun kan se få rester af renæssancens bindingsværk, bl.a. i gavlhuset Storegade 11 (ca. 1625). Aabenraa er også den by, hvor der tidligere var flest bulhuse, dvs. huse med ydervægge af planker mellem stolper. Bagbygninger med første sal i bulteknik er bevaret i Søndergade 10, Nygade 45 og Klinkbjerg 2.
Aabenraa var før år 1700 helt domineret af gavlhuse. Undtagelsen er de små boder på 3‑5 fag, som især ses omkring Store Pottergade-Vægterpladsen. Gavlhusene lå både på smalle og brede grunde med indkørsel langs siden. Ved nogle gavlhuse var der tilbygget et korshus i to etager langs gaden. Med barokken i 1700-tallet holdt langhusene deres indtog, især i fornemme ejendomme som Slotsgade 24 (1765), 31 (ca. 1785) og 33 (ca. 1748). Også udlejningsejendomme blev bygget som langhuse, fx Slotsgade 14 (1767). Samtidig blev en række gavlhuse ombygget, så de ligner langhuse mod gaden som fx Fiskergade 8. Samtidig blev der fortsat bygget gavlhuse, både som privathuse (Nygade 50, ca. 1748‑49) og lejeboliger (Gildegade 1 og 5), og langt op i 1800-tallet blev gamle gavlhuse afløst af nye. Gavlhusene var indrettet med en bred og dyb forstue, kaldet diele, og ved siden af var stuen, kaldet en dørns. Bagved fandtes køkken mv., og bagerst lå det fine rum kaldet pisel. Med langhusene blev en mere symmetrisk plan med tværgående diele i midten almindelig. Et særligt miljø udgøres af de gamle skoler, stiftelser og præstegårde, som ligger tæt omkring Sankt Nicolai Kirke, hvoraf nogle er fra 1700-tallet (de forhenværende skoler Kirkeplads 7‑8 og Leistmanns fattighus Lille Pottergade 5), andre fra tiden 1900‑14.
I Slotsgade blev der efter en brand i 1707 opført flere huse med bindingsværk forneden og muret gavltrekant med vandrette murbånd, som det også kendes fra Slesvig-Holsten. Med opgangstiden i 1700-tallet fik en stor del af byens huse murede facader præget af barok og rokoko. Karakteristisk for Aabenraa blev pilasterindrammede indgangsportaler samt buestik eller trekantfrontoner over vinduerne, hvortil kom dekorative murankre og hustavler med indskrifter. I særklasse er rokokofacaden på Søndergade 20 med kvaderliséner, pragtportal og svungne bryn over vinduerne. Samme bryn ses i Slotsgade 14, og begge skyldes bygmester Lorentz Jacobsen.
Efter år 1800 blev byggeriet præget af klassicismen, som bl.a. ses i søjleportalen på Storetorv 9 (ca. 1825). Det store skift kom med det nye rådhus med blank mur og kvaderliséner i hjørnerne. Det blev opført 1828‑30 af murermester Peter Callesen efter tegninger af C.F. Hansen. I de følgende år brugte Peter Callesen disse motiver i en række bygninger i byen, bl.a. Nygade 48 (1847). Omkring 1850 var byggeriet præget af en pudset senklassicisme (bl.a. Richelsens Stiftelse Nygade 59, 1852‑53 af Johann Heinrich Callesen), og de første historicistiske bygninger så dagens lys, bl.a. L.A. Winstrups Günderoths Stiftelse, Nygade 46 fra 1860.
Efter 1864 blev en række købmandsgårde på hovedstrøget fornyet i tidens stil med nygotiske elementer (fx Ramsherred 37‑39 og 49). Omkring år 1900 skød nye borgerlige villaer op ved Forstallé og Karpedam- Jørgensgård, og omkring år 1900 anlagde bygmester Peter Callesen et lille kvarter med tårnprydede etagehuse ved Forstallé-Callesensgade og arbejderboliger i Lavgade, hvor kommunen også i 1904 byggede arbejderboliger i form af gavlhuse efter model fra Friedrichstadt. Bedst bevaret af tidens offentlige byggeri er det fhv. Kredshus, opført 1902‑04 af Baurat (kgl. kredsbygningsinspektør) FriedrichJablonowski med rødt murværk, hvide blændinger, hjørnetårne og prydgavle. 1905‑06 tegnede Jablonowski også det nye gymnasium på Forstallé og retsbygningen fra 1907 på Haderslevvej 1. Over for disse tyske bygninger fik byen en dansk såkaldt mod-arkitektur i form af forsamlingshuset Folkehjem på Haderslevvej (1909‑11) af Johannes Magdahl Nielsen og frimenighedskirken Sct. Jørgen på Kirkebakken fra 1903 af Niels Jacobsen. Begge bygninger var eksponenter for den kongerigske arkitektur. Frem mod 1914 fik byen eksempler på hjemstavnsstilen, fx Callesensgade 1 fra 1912 af Peter Callesen og Jørgensgård 23 fra 1912 af Jep Fink med dansk præg.
Mellemkrigstiden var præget af konkurrencen mellem dansk og tysk. Begge sider prøvede at vise det bedste, og der var ikke plads til eksperimenter. Det ses i Rigsarkivet (tidl. Landsarkivet for Sønderjylland) på Haderslevvej (1932‑33 af bygningsinspektør Knud Lehn Petersen) i nyklassicisme og gule sten – og den overfor liggende tyske realskole fra 1926 (nu politistation) af Theodor Riewe i nordtysk hjemstavnsstil med kamtakket midterparti. Den nuværende H.P. Hanssens Gade blev anlagt som en genforeningsboulevard med en række nye fællesbygninger, tegnet af den førende dansksindede arkitekt Jep Fink: teater (nu biograf, 1923‑24), post- og telegrafbygning (nu bank m.m., 1925), Grand Hotel (nu Europa, 1926) og til sidst Aabenraa Museum (i dag: Kulturhistorie Aabenraa – Museum Sønderjylland, 1937). I disse bygninger vekslede Fink mellem dansk nyklassicisme og Bedre Byggeskik i et bevidst opgør med den tyske tid. I de mindre villaer brugte Fink mere den lokale tradition med pilasterportaler, karnapper, gavle og kviste; eksempler er præstegården ved Sct. Jørgen (1924) og huse ved Hjelmallé og Kirkebakken. I Lavgade-Callesensgade opførte kommunen 1920‑21 arbejderboliger tegnet af Jep Fink.
Af arkitektur efter 1945 kan nævnes C.F. Møllers Sønderjyllandshallen i H.P. Hanssens Gade, opført i 1956 i røde tegl, som dog nu er skjult bag nyere tilbygninger, og 4. Maj-Kollegiet i samme funktionelle tradition fra 1965 med hvide mure og røde saddeltage. Den internationale modernisme blev især repræsenteret af Arne Poulsen, der bl.a. byggede gårdhavekomplekset Teglgårdsparken på Høje Kolstrup (1966 ff.), villaer på Højholt og Købmandsskolen (IBC) ved Dr. Margrethes Vej med sin Arne Jacobseninspirerede facade fra 1962. Amtsgården, som i dag huser Aabenraa Rådhus, blev bygget i 1977 og tegnet af Søren Bräuner med en tidstypisk disposition med blokke og indre gange.
Siden begyndelsen af 2010’erne er der skabt ny, spændende arkitektur, bl.a. af ZENI Arkitekter: H&M i Ramsherred (2016), krematorium (2020) og omdannelsen af et gammelt industrikompleks til VUC Glødelampen i Lavgade (2017) med raffineret brug af mønstermurværk og andre materialer. Sygeplejeskolen fra 2017 af tegnestuen Henning Larsen er en del af UC SYD. Med sine gavlmotiver og sorte murværk er bygningen et markant indslag på de tidligere engarealer vest for byen, hvor man også bemærker det store Arena Aabenraa i Hjelmallé. Endelig skal nævnes byggerierne langs Skibbroen, fx Opnørgården af Oesten Ingeniører og Arkitekter ApS fra 2012, som med brugen af lokale og historiske motiver skaber en spændende modpol til den danske senmodernisme.
