Langs byens hovedstrøg er der tale om en glidende udvikling, hvor hus for hus over flere århundreder er udskiftet eller ombygget. På den måde har bebyggelsen fået et varieret præg med mange forskellige højder og stilarter langs det ellers velbevarede, slyngede gadeforløb.
Som bymidten fremtræder i dag, afspejler bygningernes skala, proportioner, dimensioner og byggeskik stort set perioden fra år 1700 frem til midten af 1900-tallet.
1500-tallet og tiden efter Reformationen var gode tider for Odense. Handel og håndværk blomstrede, og både købmænd, embedsmænd og adel opførte store og fornemme gårde til handel og repræsentation. De fornemste stod langs hovedstrøgene Vestergade, Nørregade og Overgade. Eiler Rønnows Gård fra 1547, der oprindelig blev opført i Nørregade, står i dag i bymuseet Møntergården, som den blev flyttet til i 1939. Bindingsværket repræsenterer med blandt andet højstolper gennem begge etager mod gården en overgangsform mellem middelalder og renæssance. I Møntergården står også den rødkalkede Falk Gøyes Gård fra 1646, opkaldt efter ejeren af blandt andet herregården Hvidkilde på Sydfyn. Herremanden demonstrerede i sin byresidens magt og status med sirligt udskåret og udkraget bindingsværk i to etager. Samme form for pragtbindingsværk ses på Østerbyes Gård, der også er flyttet til Møntergården, men som oprindelig er opført i 1631 i Vestergade som aftægtsbolig for en sognepræst.
Bebyggelsen langs byens middelalderlige hovedstrøg præges af en glidende udvikling. Oluf Bagers Mødrene Gård fra 1586 har samme form for pragtbindingsværk som Paaskestræde i gårdens sidehus. Mod gaden lod storkøbmanden opføre et grundmuret forhus, der dengang har hævet sig med sine svungne renæssancegavle over de lavere nabobygninger.
Men renæssancetidens fromhed og håb om himmelsk frelse førte også til oprettelse af flere stiftelser for fattige. Den adelige frøken Pernille Lykke opførte i 1617 to solide, men dog mere ydmyge boder til sin fattigstiftelse i Møntestræde.
Ud over Odense Slot er der ikke mange bygninger opført i barok stil, men en af de væsentlige er den fredede Konsistoriebygning opført i 1726 på fundamenterne af det tidligere Sankt Knuds Kloster. En anden meget fin barokbygning er forhuset til Rebslagergården fra 1764 i Overgade over for Odense Vor Frue Kirke. Bygningen indgik oprindelig i den sammenhængende gadebebyggelse, men da nabobygningen Hotel Postgården blev nedrevet for at give plads til gadegennembruddet Hans Mules Gade 1942‑47, blev forhuset fritliggende. Bygningen blev 1960‑62 restaureret af arkitekterne Hans Henrik Engqvist og Karsten Rønnow, som gav den sit nuværende udtryk med helvalmet tag og en ny muret gavl med gennemgående pilastre mod Hans Mules Gade. Huset står sammen med to andre forhuse fra perioden, hvor nr. 66 antagelig er opført kort før 1760 med Georg Dietrich Tschierske som arkitekt.
I anden halvdel af 1700-tallet kunne byens vækst i stort omfang rummesinden for de eksisterende rammer, men bag hovedgaderne skete den egentlige byudvikling med småhusbyggeri blandt andet i kvarteret nord for Overgade, hvor H.C. Andersen i 1805 formentlig blev født i det kendte, gule hjørnehus fra 1799. Kvarteret blev med stor respekt for bygningernes historie og karakter saneret efter planer af Knud Lehn Petersen og hans to sønner Erik og Ebbe Lehn Petersen i årene 1970‑75. Siden har kvarteret været attraktivt for både beboere og turister.
Fra slutningen af 1700-tallet til midten af 1800-tallet blev mange af byens ældre huse fornyet, fik bygget en ekstra etage på eller fik nye pudsede facader i klassicistisk stil. Færre blev opført fra grunden. En af de væsentlige bygninger er Lahns Stiftelse i Nedergade, opført i 1804 i klassicistisk stil efter tegninger af læreren og maleren Johan H.T. Hanck. En anden er Latinskolen ved Gråbrødre Plads fra 1845 med Jørgen Hansen Koch som arkitekt. Havnetoldkammeret blev opført for enden af kanalen, der åbnede i 1803, og det fik sin nuværende skikkelse af N.S. Nebelong i 1847. I Nørregade opførte brygger Th. Charles Grut et bryggeri, hvor forhuset i 1869 blev forhøjet til to etager og fik sit nuværende senklassicistiske udtryk med fyldinger under vinduerne af det nye byggemateriale støbejern. Ved Frederiksbroen lige syd for åen opførte købmanden Elias B. Muus i 1844 en ny beboelsesbygning til sin sukkerfabrik på stedet.
Lige inden for byporten i Vestergade, hvor der siden 1744 havde ligget et farveri, indrettede farver Morten Kisbye Brandt i 1869 en klædefabrik. Virksomheden voksede sig stor og blev udvidet ad mange gange, indtil den i 1977 måtte lukke. I årene 1982‑86 blev fabriksområdet med arkitekterne Kristian Isager og Jørgen Stærmoses Tegnestue omdannet til et udstillings- og kulturcenter. Der blev skabt en ny passage gennem byen mellem fabrikkens mange bygninger, som dannede stræder og pladser, der er blevet små byrum. Projektet blev banebrydende, og ikke mindst blandt unge arkitekter skabte det stor interesse for genanvendelse af industribygninger, som med en vis robusthed og historisk fortælleværdi rummede et stort potentiale. Samme Isager var også idémand og arkitekt, da den nye TV 2-station skulle etableres i Odense. Denne gang sammen med Peer Hougaard Nielsen og Carl Johan Nørgaard Pedersen. Kvægtorvet fra 1911 med P.C. Monberg som arkitekt blev genstand for den meget vellykkede bevarende ombygning 1987‑89.
Byggeriet i slutningen af 1800-tallet var ganske omfattende og satte et meget markant præg på byen. Arkitekterne lånte motiver både fra den europæiske og nordiske bygningshistorie, hvor stilart ofte blev valgt efter bygningens funktion. Denne måde at lade sig inspirere og blande tidligere tiders stilarter er siden samlet blevet betegnet som historicisme. Mange blev opført af bygmestre, men arkitekter blev også anvendt flittigt, især på de mange offentlige og institutionelle bygninger, der blev opført i disse år. Byen fik sit nuværende rådhus på Flakhaven, der efter en konkurrence blev opført i 1881-83 i gotisk stil inspireret af italienske rådhuse med J.D. Herholdt som den ledende arkitekt. Byens centrum blev efter en del forhindringer forbundet til jernbanen med den nye Jernbanegade, og den togrejsende blev ikke ladet i tvivl om, at dette var en by med stil, kultur og dannelse. Jernbanegades Skole blev her opført i 1879 med C. Lendorf som arkitekt; den huser i dag Det Kongelige Teaters Balletskole. I 1885 kunne en ny bygning for Fyens Stiftsmuseum indvies. I overensstemmelse med bygningens formål havde arkitekterne bag museet, F.E. Andersen og Emil Schwanenflügel, hentet motiverne fra de klassiske græske templer. Allerede i 1897 blev museet udvidet med en skulptursal efter tegninger af Niels Jacobsen, og bygningen blev i 2020 indstillet til fredning. I samme gade var Jacobsen arkitekt på Grand Hotel fra 1896 og Odense Teater, opført 1913‑14. Han var lærer på teknisk skole og senere medlem af byrådet, og han var arkitekt på ganske mange bygninger i byen som fx Teknisk Skole i Munke Mose fra 1898, Ansgar Kirke 1902, Thomas B. Thriges kraft-varmeværk 1915‑16, som blev fredet i 2005, Ombygningen af Domhuset i 1918-21 og Mindehallen for H.C. Andersen i 1930’erne. Han tegnede også funktionær- og arbejderboliger for A.P. Møller ved Odense Staalskibsværft.
Nærmest jernbanestationen ud til Kongens Have blev Landsarkivet opført i 1893 efter en konkurrence, der blev vundet af den københavnske arkitekt Martin Borch. Samme år lige ved siden af var det kgl. bygningsinspektør Vilhelm Petersen, der forestod opførelsen af Odense Katedralskole, som siden er udvidet flere gange. Han tegnede også det nye Toldkammer, der blev bygget ved jernbanen i 1899 og indviet i 1900.
Et af de første jernbetonhuse i Danmark blev støbt for købmand H. Andersen i 1931 på hjørnet af Nørregade og Asylgade. Det blev opført efter tegninger af Johannes Schmidt Andersen i den nye funkisstil med store glaspartier i stueetagen og vandrette vinduesbånd i de øverste etager. Der kom i løbet af 1930’erne et nyt fokus på borgernes sundhed og trivsel, og i 1938 blev Odense Svømmehal på Klosterbakken opført efter tegninger af A. Eriksen og Th. Nygaard. En konkurrence om udvidelse af byens rådhus blev vundet af Bent Helweg- Møller, men pga. 2. Verdenskrig trak byggeriet ud i perioden 1939‑55. Selv om Helweg-Møller ikke brød sig synderligt om J.D. Herholdts bygning, opnåede han med bygningsvolumener, skala og materiale en fin harmoni med det gamle rådhus, samtidig med at huset er en fornem eksponent for sin egen tid. Den lokale arkitekt Vagn O. Kyed satte i denne periode også et stort aftryk på byen med bl.a. forretningsejendommen Sct. Knud fra 1946, og i konditoriet på 1. sal kunne man sidde i den udkragede karnap og følge den pulserende trafik med biler, sporvogne og cykler.
I bymuseet Møntergården er en ny udstillingsbygning af Frank Maali og Gemma Lalanda fra 2013 fint indpasset i den historiske bebyggelse. Blandt de mange nye bygninger på havnen synes især Nordatlantisk Hus, som også blev opført i 2013 med Isager Arkitekter, Cornelius + Vöge og MASU Planning som arkitekter, at have optaget havnens særlige uhøjtidelige og praktiske formsprog. Flere bygninger er bevaret med respekt og øje for bygningernes historie og kvaliteter, fx Storms Pakhus.
Oluf Bagers Plads af Praksis Arkitekter fra 2018 er et godt eksempel på, hvordan placering og detaljering af nye bygninger kan tilføre de eksisterende omgivelser kvalitet. Gavlen af sidehuset i Oluf Bagers Mødrene Gård indrammes, og nabohusene fra 1980’erne får ny mening, samtidig med at der er skabt en ny og indbydende plads.
Odense har ikke siden en større brand i 1529 været ramt af store bybrande eller bombardementer. Til gengæld har flere gadegennembrud sat deres præg. Thomas B. Thriges Gade var det største og mest berygtede. Det skulle forbedre forholdene for den nordsyd- gående trafik mellem centrum og havn under jernbanen. Gaden blev anlagt uden større hensyn til eksisterende bystrukturer og ført lige gennem det centrale Odense med massive nedrivninger til følge. Planerne gav da også anledning til bekymring, og landets førende byplanarkitekt, professor Steen Eiler Rasmussen, blev taget med på råd. Hans anbefaling om en anden linjeføring, der delvis bevarede kvarteret omkring H.C. Andersens Hus, blev stort set fulgt. Det beroligede dog ikke byens bekymrede museumsdirektør Svend Larsen. Men »Man kan jo ikke lave en omelet uden at slå æg i stykker«, udtalte stadsingeniør Rich. Honoré.
Flere andre gadegennembrud satte også deres aftryk på den indre by. Claus Bergs Gade i 1936, Mageløs i perioden 1924‑25 og Hans Mules Gade i 1947. Bortset fra Mageløs fik gadegennembruddene aldrig en samlet randbebyggelse, og de fremstod derfor rodede og utilpassede.
Da den firsporede gennemfartsvej Thomas B. Thriges Gade blev lukket i 2014, påbegyndtes en radikal forandring af bymidten. Helhedsplanen »Fra Gade til By« omdanner over 50.000 m² tidligere gadeareal til en ny bæredygtig bydel. Tegnestuen Entasis, der vandt den indbudte arkitektkonkurrence, har i samarbejde med Sweco udarbejdet planen. Den gendanner i let bearbejdet form de historiske byrum, som med anlæggelsen af Thomas B. Thriges Gade fik fjernet dele af eller hele deres randbebyggelse. Samtidig skabes der nye fodgængervenlige byrum, som forenes med anlæggelsen af et stort, underjordisk parkeringsanlæg, en supercykelsti og en letbane. Letbanen skal blandt andet forbinde det nye supersygehus og universitetet med centrum.
Projektet har desuden givet anledning til at opføre et nyt museum for H.C. Andersen og hans eventyr. Museet skal ligge i en ny offentlig have, der igen får den udstrækning, som apoteker Lotzes Have havde, inden anlæggelsen af Thomas B. Thriges Gade reducerede den med en tredjedel.
Haven fletter sig sammen med den omkringliggende by og integrerer det delvis underjordiske museum. Over jorden ses kun lette runde pavilloner, der folder sig ud bag havens mange buede hække. I haven og det underjordiske leges der med oppe og nede, ude og inde.
Projektet er med inspiration fra H.C. Andersens univers skabt af det japanske arkitektfirma Kengo Kuma and Associates sammen med Cornelius + Vöge og MASU Planning. Byggeriet forventes færdiggjort i 2021.
