Vejle opstod på en banke ved et vadested over Vejle Å, og de ældste arkæologiske spor er et stolpebygget hus, som menes opført i 1100-tallet. Selv om det må anses for meget sandsynligt, at byen etablerede sig i denne periode, er billedet af byens tidlige udvikling meget ufuldstændigt, da der kun er kendskab til få fund.
I 1200-tallet lå byen omtrent i området mellem Flegborg i nord og Sønderå i syd, Dæmningen i øst samt Blegbanken i vest. Siden 1200-tallet har byens vigtigste færdselsårer været den østvest-gående Kirkegade samt det nordsyd-gående forløb Nørregade-Torvegade- Søndergade. Arkæologiske undersøgelser i Torvegade daterer angivelig den ældste gadebelægning af mindre brosten til tiden efter 1250. Formentlig inden 1350 blev vejbelægningen erstattet af en noget kraftigere stenbrolægning. Herudover viser rester af en regulær stenbrolægning i Nørregade, at gaden blev forlænget mod nord i senmiddelalderen. Sporadiske fund af bygningsrester tyder på, at området blev bebygget i samme periode.
I midten af 1200-tallet opførtes Sct. Nicolai Kirke, og fra tidligt i 1300-tallet og frem til reformationen lå et sortebrødrekloster, omtrent hvor det nuværende rådhus ligger i dag. Arkæologiske undersøgelser har afsløret, at dets kirkegård strakte sig et stykke ud på det nuværende Rådhustorv, ind i Klostergade og i haven bag det gamle arresthus.
Ved Mølleåen lå Vejle Mølle, der var ejet af kongen. Mølleåen var den østlige gren af Grejs Å. Den middelalderlige bykerne har været omkranset af vandløb med vand fra Grejs Å i gravede kanaler, heriblandt den nu rørlagte Midtå. Indsejlingen til byens oprindelige havn skete ad Sønderå ind mod Sønderbro, og den kongelige borg, Borgvold, bevogtede både indsejlingen og byen i højmiddelalderen. Vest for byen, ved Vejle Å, lå borgen Rosborg. Man ved ikke, hvem der anlagde denne borg, og heller ikke hvornår, men også den blev kongelig.
De middelalderlige bebyggelsesspor består fortrinsvis af kulturlag og genstandsfund fra 1200‑1500-tallet, hvorfor det må antages, at en anseelig del af byens huse var bygget af træ. På Rådhustorvet er der dog udgravet et kraftigt stenfundament fra en grundmuret bygning, som blev opført i 1500-tallet og nedrevet ca. 1650‑1700. Byens gejstlige institutioner træder lidt tydeligere frem i de arkæologiske fund end den verdslige bebyggelse. Således er der i den østlige del af Kirkegade fundet rester af den middelalderlige kirkegårdsmur og brolægning fra ca. 1250. Både nord, syd og øst for kirken er der fundet mange grave i den middelalderlige kirkegård.
Vejle fik sine ældst kendte købstadsprivilegier i 1327. Den fremstod i middelalderen som en forvokset landsby, hvor blot kirken, klosteret og rådhuset ragede op over de lave huse. Reformationen i 1536 medførte nedlæggelse af sortebrødreklosteret, hvorefter der i klosteret blev oprettet et hospital, der senere fungerede som fattiggård og plejehjem. En del af klosteret blev desuden ombygget til rådhus. Vejle Latinskole blev formodentlig oprettet i 1542. Her begyndte bl.a. historikeren Anders Sørensen Vedel sin skolegang.
Vejle havde et stort opland, hvilket gavnede handel og håndværk. Byens købmands- og håndværkslav regulerede indtil midten af 1800-tallet forholdene inden for deres respektive områder.
Efter en gunstig periode i 1500-tallet blev Vejle i 1600-tallet ramt af krige og følgerne heraf. I 1627 plyndrede Christian 4.s flygtende lejesoldater byen, inden den tysk-romerske kejsers tropper besatte Vejle. Besættelsen medførte store ødelæggelser. I 1644 var det svenskerne, der besatte Vejle, hvilket skete igen i 1657, således at udviklingen i Vejle omkring 1660 var gået helt i stå. Der havde da også nogle år tidligere været planer om helt at nedlægge Vejle til fordel for den nyanlagte by Fredericia. Dette skete dog ikke, men Vejle og byens indbyggere måtte gennemleve nogle hårde årtier, inden det begyndte at gå fremad igen i 1700-tallet. En storbrand i 1786 satte en midlertidig stopper for udviklingen. Det meste af Nørregade blev lagt øde, men genopbygningen gav mulighed for en mere moderne bymæssig bebyggelse. I årene derefter oplevede Vejle en ganske betydelig vækst. I 1787 var der 843 indbyggere i Vejle, i 1801 lå tallet på 1310, mens indbyggertallet frem mod 1845 mere end fordobledes til 2.943. Med til at fremme denne udvikling var, at Vejle Amt med Vejle som administrativt centrum blev oprettet i 1796 som afløser for Koldinghus Amt. Derudover lykkedes det at få bygget en rigtig havn i 1826. Købmændene kunne nu få leveret varer på en lettere måde end tidligere, og de begyndende industrivirksomheder ved Vejle Å og Grejs Å fik ligeledes mulighed for ud- og indførsel med skib. Vejle var dog endnu ikke blevet industriby, det var fortsat købmændene, der dominerede.
I anden halvdel af 1800-tallet begyndte industrien for alvor at gøre sig gældende i Vejle. Tidligere havde der været fabrikker langs åerne, der producerede klæde, kobbertøj og papir, men nu kom industrien også til selve købstaden. C.M. Hess’ Jernstøberi blev etableret i 1876, Vejle Mølle indførte dampkraft i 1883, ligesom der blev anlagt slagteri, bryggerier, brænderier og garverier. I 1890’erne tog den industrielle udvikling virkelig fat, og alle de industrivirksomheder, der fik betydning for byens udvikling, var anlagt inden 1920.
De væsentlige virksomheder var Vejle Bomuldsspinderi (grundlagt 1892), senere De Danske Bomuldsspinderier med to fabrikker i Vejle samt Vejle Dampvæveri og Windfeld-Hansens Bomuldsspinderi. Desuden omfattede industrien bl.a. A/S Vejle Saalelæderfabrik (1884), Funders Rebslageri (1901) og inden for jern og metal tidligere nævnte Hess’ Jernstøberi med to fabrikker og Vejle Bolte- og Møtrikfabrik (1899). Dertil kom Steensens Margarinefabrik i 1889, Vejle Amts Svineslagteri, oprettet i 1896, og i 1915 åbnede Vejle Caramel- og Tabletfabrik, det senere Dandy.
Vejle var blevet industriby, men handelen spillede fortsat en stor rolle. Vejles købmænd havde et omfattende handelsopland især mod vest. Med industrien fulgte arbejdere, der flyttede til byen og især bosatte sig i Vestbyen. Byen oplevede en kraftig befolkningsudvikling: I 1890 var indbyggertallet 9.015, hvilket i 1921 var steget til 23.967; i sidstnævnte tal var indbyggerne i Grejsdal talt med. Som følge af den kraftige stigning i befolkningstallet blev der behov for en ny kirke, og i 1907 indviedes Vor Frelsers Kirke.
Transportmulighederne blev forbedret, da jernbanen kom til Vejle i 1868. I 1894 åbnede Vejle-Give-banen, og Vejle-Vandel-banen fulgte i 1897. Sammen med forbedrede veje var jernbanerne med til at knytte oplandet tættere til handels- og industribyen Vejle.
På kulturområdet blev der dannet museumsforening i 1893, og en lille samling blev oprettet i kommunens administrationsbygning. Der var hele to bogsamlinger, Vejle Folkebogsamling og Vejle Folkeuniversitetsbibliotek, der i 1907 blev samlet og i 1914 blev til centralbiblioteket Biblioteket for Vejle By og Amt med landets første professionelle bibliotekar som leder.
Vejle voksede i første halvdel af 1900-tallet udad og opad. Det skete både i Vestbyen langs Vardevej og omkring havnen samt op ad skrænterne både nord og syd for bymidten. Men i forhold til den voldsomme vækst før 1. Verdenskrig fladede befolkningsvæksten ud i 1920’erne og 1930’erne. I 1940 var man dog nået op på 31.237 indbyggere. Dette år var over 50 % af de beskæftigede i arbejde inden for håndværk og industri. Især tekstil- og beklædningsindustrien beskæftigede et stort antal vejlensere.
Fra 1920’erne var der statstilskud til nødhjælpsarbejde, og det påvirkede i nogen grad byens udseende, da bl.a. Mølleåen ved gaden Dæmningen blev overdækket, og Boulevarden i engene vest for Vejle blev anlagt.
Den tyske besættelse af Vejle 1940‑45 var både præget af samarbejde med besættelsesmagten og modstandskamp med flere sabotageaktioner. Byen blev også ramt af bombenedslag i 1942, som ødelagde mange huse på Skovvang og kostede et enkelt menneske livet. Efter krigen fortsatte udbygningen på både Nørremarken og Søndermarken, og ønsket om at adskille boligkvarterer fra industri medførte flytning af flere virksomheder fra byens midte til grunde oven for bakkerne.
I 1970 boede der 43.976 mennesker i Vejle, og det var fortsat industrien, der fyldte mest beskæftigelsesmæssigt. Udflytningen af industrier fra midtbyen fortsatte efter 1970, mest synligt da Dandy (tidligere Vejle Caramel- og Tabletfabrik) rykkede til Nørremarken i 1972. Tekstilindustrien var ikke længere så dominerende, således lukkede Windfeld-Hansens Bomuldsspinderi i 1999, og De Danske Bomuldsspinderier lukkede endeligt i 2005.
Det havde hidtil været svært at komme gennem Vejle, når man kom fra syd eller nord. Det afhjalp anlæggelsen af Vejlefjordbroen, der åbnede i 1980. Samme år åbnede den permanente gågade ad Søndergade, Torvegade, Nørregade. I 00’erne blev Vejles bymidte gennemrenoveret med ny belægning, springvand mv., og flere nye boligkvarterer skød op. Vejle Havn var i stand til at skabe overskud som trafikhavn, i 2006 med et overskud på 28 mio. kr. Befolkningstallet var steget fra 47.930 i år 2000 til 49.928 i 2006. Vejle havde ændret sig fra en industri- til en handels- og serviceby.