Byens bebyggelse bestod i 1500-tallet af gavlhuse efter nederlandsk og nordtysk model, dvs. huse, der vender gavlen ud mod gaden. Således kunne flere grundejere få direkte adgang til færdselsårerne. Gode eksempler på sådanne bindingsværkshuse med udkragede overetager ses i Helligkorsgade 18, byens ældste borgerhus fra 1589, formentlig en håndværkerbod, og nabohuset Helligkorsgade 20, der ved en ombygning i 1632 har fået en gavl i mursten. På Akseltorv findes et af landets rigest udsmykkede bindingsværkshuse, bygget af apoteker Hermann Reiminck i 1595, men i dag kaldet Den Borchske Gård efter ejeren, stadshauptmand I.S. Borch i 1800-tallet. Også det er et gavlhus, men med en lille tilbygning mod vest. I Låsbygade, som formentlig først er opstået i løbet af 1500-tallet, ligger husene på langs ad gaden, fx bindingsværkshuset Låsbygade 56 fra 1601.
Den nuværende jernbanestation er opført 1882‑83 af statsbanernes egen arkitekt, Thomas Arboe. Telegrafstationen vest for banegården, nu restaurant og private lejemål, er opført i 1929 af kgl. bygningsinspektør Viggo Norn. Valdemar Ingemann og sønnen Bernhard Ingemann tegnede 1909‑11 Julemærkesanatoriet på Fjordvej 154 i nybarok palæstil. I 1990 blev sanatoriet ombygget til Hotel Koldingfjord af Vilhelm Lauritzen Arkitekter og Jørgen Stærmose. Landskabsarkitekt Jeppe Aagaard Andersen har udformet forpladsens forhøjede græsparterre med magnolietræer afgrænset af jernkanter. Efter bysaneringerne i 1970’erne blev de nedrevne huse i Konsul Graus Gade-kvarteret erstattet af et byggeri, der underkastede sig dimensionerne i de bevarede huse. Derved har kvarteret fastholdt et roligt og homogent præg. Arkitekt var Lauge Juuls Tegnestue.
I mellemkrigstiden blev byens arkitektur stærkt præget af nyklassicismen med Ernst Petersen som hovedeksponent med over 300 bygninger til alle slags formål. Han kom som nyuddannet til Kolding i 1918 for at opføre et nyt domhus, Domhusgade 22‑24, der i 1960’erne fik en tilbygget politistation. I 1939 opførte Ernst Petersen det sociale boligbyggeri Domhusparken 2‑16; set fra domhuset skulle byggeriet virke som Christiansborg Slots lave sidebygninger og sammen med Domhuset danne et stort gårdrum. På Akseltorv ombyggede han i 1924 L.A. Winstrups rådhus fra 1875 til nyklassicisme.
Kolding Gymnasium er tegnet af A5 Tegnestuen A/S og opført 1972‑75. Erhvervsskolen HANSENBERG ligger i en bygning fra 1970, tegnet af Holm og Andersen. I 2001 blev skolen betydeligt udvidet med nye bygninger på Skovvangen, tegnet af Schmidt, Hammer & Lassen. Uddannelsescenteret IBC er tegnet af Henning Noes-Pedersen fra 1963. Det blev udvidet i 2002 med en afdeling (IBA) mod Skamlingvejen, tegnet af Jens Erik Jensen. IBA har i 2019 fået eget hus i Havneparken 1, tegnet af Kjær & Richter med en meget karakteristisk og næsten skulpturel facade. SDU (Syddansk Universitet) har til huse på adressen Universitetsparken 1 i bygninger fra 2014 tegnet af Henning Larsen og med udendørsarealer af Arkitekt Kristine Jensens Tegnestue. Huset er trekantet med en facade bestående af trekantede solafskærmninger, der kan åbnes og lukkes. På Ågade 10 ligger Designskolen Kolding, der er indrettet i en gammel lagerbygning, som KHR Arkitekter i 1998 ombyggede med et stort, åbent glasparti mod nord. Samme arkitekt står for genboen, Kolding Kommune Uddannelsescenter (KUC) fra 2004. Endelig ligger på Kolding Åpark 16 Kolding HF & VUC fra 2015, tegnet af RUM Arkitekter og Kontur Arkitekter. De har som nabo et trekantet, orangefarvet hus med ungdomsboliger, tegnet af Tegnestuen Mejeriet.
Kolding Hotel Apartments, Kedelsmedgangen 2 og Hospitalsgade 6, er et kompleks af ferielejligheder, bygget i 1994 af Troels Hasner og Ole Justesen. Lejlighederne er indrettet i en række punkthuse af forskellig grundform: stjerne, cirkel, firkanter, trekanter og ottekanter. Som nabo ligger SlotssøBadet.
Nicolai-komplekset i Skolegade 2 består af fem tidligere skolebygninger fra hhv. 1856, 1879 og 1881 af L.A. Winstrup, 1898 af Christian Fussingog 1904 af Robert V. Schmidt.
I Koldings østlige udkant skal nævnes IBC Innovationsfabrikken, Birkemosevej 1, der blev opført i 1979 af Tormod Olesen som en fabrik for træbeskyttelsesmidler, Gori. Byggeriet var enestående i tiden, idet det kun var opdelt i to afdelinger: den ene til produktion og administration, den anden til varelager. Bygningen erstattede Gori I, der var opført i 1977, men som brændte allerede året efter.
