Flertallet af middelalderbyens huse har været forskellige trækonstruktioner som bulhuse og især bindingsværk, som var tækket med strå. Hustypen har ikke overlevet bybrandene i 1500-, 1600- og 1700-tallet, men fra Søndersøbebyggelsen kendes flere spor af sådanne huse fra tiden omkring år 1000, og på nordsiden af Store Sct. Peder Stræde er undersøgt et hus i flere faser fra 1000- og 1100-tallet.
Fra Gammeltorv har man kunnet spotte de fornemste af byens mange bygninger og institutioner. Mere end ti steder har undersøgelser således påvist forsvundne stenhuse fra middelalderen, og fra periodens sidste århundrede findes 14 helt eller delvis bevarede stenhuse i Viborg. Et af disse er byens middelalderlige rådhus. Byrådet menes at være etableret i 1200-tallet, men et rådhus omtales først i 1467. I 1584 omtales det beliggende ved Gammeltorv. Kælderen til det middelalderlige rådhus findes fortsat bevaret i det rådhus, som blev genopført på sydsiden af torvet efter bybranden i 1726. Et fornemt stenhus er den nuværende Domprovstegård, som ligger ud mod Sortebrødre Kirke Stræde. Det blev opført i slutningen af 1400-tallet som en af byens mange adelsgårde, der under snapsting og landstingssamlinger husede deres ejere. På Sct. Mogens Gade 7, 9 og 38 kan der ligeledes ses delvis bevarede stenhuse. En middelalderlig kælder findes i samme gade under Karnapgården fra 1640’erne. Desuden findes murværk fra middelalderen i huse på Nytorv, i Store Sct. Hans Gade, Sct. Mathias Gade, Sct. Leonis Stræde, Skolestræde og Domkirkestræde.
Barokken i en nordtysk form falder mest i øjnene i bykernen, hvilket skyldes den store brand i 1726. Genopbygningen af rådhuset, domkirken, Bispegården, Sortebrødre Kirke og vestfløjen af Gråbrødre Kloster blev overladt til den slesvigske bygmester Claus Stallknecht. Fornemst blev rådhuset i gule sten med kvist og helvalmet mansardtag. Den saksiske bygmester Johan Gottfried Hödrich stod bag opførelsen af endnu en halv snes barokbygninger. På Gammeltorvs vestside ligger Den gamle Latinskole fra 1731-36 og Salomon Gerbers gård fra 1730-35, begge pudsede og med kraftige gesimser, og på Nytorvtegnede Hödrich Den liden Gaard og det gamle Svaneapotek. Den tredje nordtyske bygmester, Nicolaus Hinrich Rieman, opførte i 1757-58 Friedenreichs Gård på Nytorvs nordside. Her har skiftende stiftsamtmænd haft residens fra 1820 til 2006.
Willads Stilling sørgede for, at Viborg kan fremvise en halv snes klassicistiske bygningsværker. Mellem 1798 og 1825 blev bl.a. Gammelvagt i Lille Sct. Hans Gade og Stillings Gård på Nytorvs østside opført samt en række ejendomme i Viborgs historiske Sct. Mogens Gade. Gadens bygninger signalerer et stykke socialhistorie. I sydenden tæt på Gammeltorv og domkirken rejser solide stenhuse sig i røde munkesten. Herefter taber husrækken i højde med håndværkergårde i bindingsværk, kun afbrudt af en håndfuld stenhuse midtvejs. Hvor byporten Sct. Mogens Port lå, ligger endnu enkelte lave forhuse til tidligere landbrug.
Viborg Råd-, Ting- og Arresthus ved Stænderpladsen er fra 1871‑74 og opført i italiensk renæssancestil med V.Th. Walther som arkitekt, mens Julius Tholle i 1867 tegnede Kreditforeningens bygning på Hjultorvet i senklassicistisk stil og Eksercerhuset med byzantinsk afstribet mønstermurværk på Rødevej i 1871. Tholle deltog i årene 1863‑71 i genopførelsen af Viborg Domkirke. Endelig ligger på Stænderpladsens nordside den tidligere Vestre Landsrets bygning fra 1920, tegnet af K. Varming i »herregårdsstil«.
I slutningen af 1800-tallet begyndte byen at brede sig uden for portene. En række institutioner flyttede med, og det blev nyklassicisme og skønvirkestilen med mange variationer, som prægede de nye byrum. De høje, elegante bygninger ved Sct. Mathias Port signalerede den nye tid efter år 1900, hvor Sct. Mathias Gade blev byens førende forretningsstrøg med bygninger i fire etager. Hack Kampmann har efterladt imponerende bygningsværker som Kreditforeningen ved Sct. Mathias Port, men også Landsarkivet i Lille Sct. Hans Gade og den nye katedralskole på Sct. Olufs bakke. Den mest benyttede arkitekt i perioden var Søren Vig-Nielsen. Viborg Teater i Gravene fra 1909 i jugendstil, den pompøse generalkommando i Sct. Mathias Gade fra 1913, brandstationen og elværket er den lokale arkitekts kendteste bygninger, men Vig-Nielsen tegnede ligeledes skoler, alderdomshjem, industribygninger og private boliger. I Fredensgade tegnede Aage Paludan samtlige villaer i skønvirkestil. Derimod er Viborg kun repræsenteret af et par bygninger i 1930’ernes funktionalisme, hvoraf Privatbankens hjørneejendom ved Sct. Mathias Port er mest markant. Gaderne i de nye kvarterer fra omkring år 1900 er lige og regelmæssige i modsætning til de krogede smalle gader i middelalderbyen.
Viborgs vækst siden 1960’erne skabte ikke alene nye parcelhuskvarterer og erhvervsområder. Flere institutioner rykkede ud på de gamle bymarker og til arealerne øst for Viborgsøerne. Viborg Amt placerede fra slutningen af 1970’erne sit store administrationskompleks på Skottenborg op mod den gamle Arbejdsanstalt. Arkitekt på det tidstypiske byggeri med blokafsnit og flade tage var den lokale John Anker Sørensen. I dag rummer det Regionshuset for Region Midtjylland. Det Danske Hedeselskabs (i dag: Hedeselskabet) nye hovedsæde i Overlund blev tegnet af C.F. Møller Architects 1978-80, mens Friis & Moltke Architecture stod bag Viborg Gymnasium & HF og boligbyggeriet Nørresøbakken i Houlkær. Overlundkvarteret blev i 2014 hjemsted for Vestre Landsrets nye domicil.
Bilister, som kommer til Viborg nordfra, passerer ved Indre Ringvej Viborg Kraftvarmeværk, tegnet af Peter Kjelgaard og Thomas Pedersen. Værket med giganttanken og de to krumme sideskaller, der griber ind om den, rejser sig skulpturelt i landskabet.
Det næste arkitektoniske indtryk for de vejfarende på Indre Ringvej er Viborgs nye rådhus på det tidligere kaserneareal. På kasernearealet er der yderligere blevet plads til Viborg Politigård og Statsadvokaten, tegnet af Ulrik Poulsen i 1998, samt en række bygninger, som huser VIA University College.
I Viborg midtby har Arkitekt Kristine Jensens Tegnestue og KPF Arkitekter 2011‑13 fornyet en del gågader og pladser. Nye granitbelægninger i nuancer fra grå over rødgrå til rød på gader og pladser ligger som et sammenhængende gulv, og de nye byrum er møbleret med bænke, stole m.m. i messinglegeringen tombak. Trekanttorvet markeres af slyngplanter, der vokser på et wiresystem opsat hen over pladsen, og midt på torvet er nedfældet vanddyser i belægningen.
I bymidten har Schønherr A/S i 2016 etableret en byrute, hvor terrænet med nænsomme indgreb og brug af oprindelige materialer og teknik er justeret, så området er blevet tilgængeligt for alle. Det gælder bl.a. Nytorvgyde, Nytorv, Latinerhaven og Skovgaard Museets have. Siden 2015 har Viborg Kommune arbejdet med en vision for udformningen af domkirkekvarterets byrum og pladser, der skal danne grundlaget for en renovering af området.
