Arkitekturen i midtbyen bærer præg af byens udvikling gennem århundreder, og de forskellige stilretninger og byggeskikke er afspejlet i bygningerne.
I 1500- og 1600-tallet blev en række store købmandsgårde opført i det centrale Aarhus, men adskillige af disse gamle bindingsværkshuse er blevet revet ned eller ombygget til ukendelighed. Husene i Mejlgade 25 og 43 står dog endnu med egebindingsværk fra 1500-tallet; begge blev fredet i 1970. Periodens bindingsværkshuse var særligt kendetegnet ved, at bindingsværkets lodrette stolper gik igennem fra fodtømmeret til tagtømmeret. Det toetagers forhus på Mejlgade 19 fra 1600-tallet er et af de bedst bevarede huse med en typisk facade fra renæssancen, hvilket ses i det udkragede og knægtbårne øvre stokværk mod gaden. Huset blev fredet i 1919. Husene blev oftest opført som gavlhuse, mens det fra slutningen af 1600-tallet og i løbet af 1700-tallet blev mere almindeligt at bygge længehuse. Disse blev opført i to etager og ofte med et stejlt valmtag. Et velbevaret eksempel er Vestergade 58, hvor forhuset er fra år 1700. Der er tale om en tidligere købmandsgård, og det relativt rige bindingsværk er udført efter datidens byggeskik med gennemstukne bjælkeender og svalegange. Derudover er bindingsværket opstreget og udført med fodrem og to dokker mellem stolperne, som er typisk for egnen. Huset blev fredet i 1949.
Først omkring år 1800 kom der gang i byggeriet af grundmurede huse, fx Nørreport 20 fra 1798. En god repræsentant for 1800-tallets klassicisme, der var inspireret af den københavnske udgave, er Klostergade 56 fra 1812 med horisontal inddeling af facaden i form af et bånd, en glatpudset facade og enkelhed i det samlede udtryk. I løbet af 1820’erne blev stilen yderligere forenklet, som det ses i Vestergade 29 fra 1821. Her optræder for første gang et afrundet hjørne, hvilket senere blev udbredt i Aarhus.
Da byen forøgede sit indbyggertal i 1840’erne, satte det sig spor i byggeaktiviteten. Mejlgade 7 og Mindegade 8 er eksempler på nye toner i facadernes udtryk, der fik gennemløbende gesimsbånd under vinduerne, en stærk sokkelprofil og refendfugning.
I 1850’erne tog den arkitektoniske udvikling en ny drejning, idet man bevægede sig væk fra klassicismen og mod historicismen. Facaderne, som i lang tid havde været pudsede, stod nu i blank mur, først i håndstrøgne mursten og senere i takt med industrialiseringen maskinstrøgne mursten. Et af de bedste eksempler på historicisme er huset på Fredensgade 36 af Gustav Martens fra 1858.
Byens udvikling fra 1870’erne førte igen til en ny byggeaktivitet med opførelsen af monumentale bygninger i både tre og fire etager med mange dekorative detaljer, eksempelvis Vester Allé 15 af V.Th. Walther fra 1876‑77. I tråd med tidens idealer er facaden pudset med kraftige detaljer omkring vinduerne og vandrette delinger. Frederiksbjergs etagebebyggelser er opført i en stram karréstruktur, og husenes arkitektur bærer præg af historicismen. Det var et udpræget boligkvarter for arbejderfamilier med mindre en- og toetagers huse, men også en del fabriksvirksomheder. Omkring Ingerslevs Boulevard har bygningerne markerede hjørnepartier, svungne karnapper og murværksdetaljer samt en generelt høj håndværksmæssig kvalitet. Trøjborg fra omtrent samme tid er præget af etagebebyggelser med mange små og i samtiden billige lejligheder. Etagebebyggelserne blev oftest opført som karréer med pudsede facader i stueetagen, indfatninger over vinduerne og kraftige, dekorative hovedgesimser.
Efter 1890 stod murene igen oftest i blank mur med røde og gule mursten samt formsten og mønstermur, og på offentlige bygninger anvendte man i stigende grad natursten, fx granit og sandsten, inspireret af ældre dansk og nordisk arkitektur. En af de mest prominente arkitekter fra denne periode er Hack Kampmann.
I begyndelsen af 1920’erne udviklede Aarhus sig i området omkring Hovedbanegården, som sammen med randbebyggelsen omkring Banegårdspladsen er en god repræsentant for nyklassicismen. Overarkitekt K.T. Seest har tegnet bygningerne, som er opført i gule sten og består af klart definerede bygningsdele med et fremtrukket midtparti, der understreges af en trekantfronton med søjler.
I udkanten af Trøjborg, mod vandet, ligger Klintegården.
Mølleparken blev anlagt 1926‑30 på Aarhus Mølles grund.
Over for rådhuset ligger Musikhuset Aarhus, som blev indviet i 1982. Haveanlægget, realiseret 1979‑82 med Sven Hansen som landskabsarkitekt, opleves som en fortsættelse af Rådhusparken og er udformet som en barok parterrehave af lave hække, der gennemskæres af diagonale stier. Anlægget er klassisk i sit udtryk uden at være monumentalt og omgives af brede græsbånd med spredte træer.
