Fra 1600-tallet og frem ved man, at Vejles kirke, Sct. Nicolai Kirke, har haft et orgel, som dog periodisk har været ødelagt af lejetroppers huseren i byen. Fra midten af 1800-tallet holdt organist Dines Bredahl Blauenfeldt byens musikliv i gang med kirkekoncerter, bl.a. med kunstnere fra København – en praksis, hans senere kolleger i byen har fulgt.
Vejle havde som andre byer en borgervæbning i begyndelsen af 1800-tallet. I slutningen af 1820’erne oprettede borgervæbningens leder, kirkeværgen Morten Ottosen, et musikkorps. Dette første organiserede musikliv, som der kendes til, blev en rugekasse for byens frodige skov af musikere og musikdirektører, og der går en lige linje frem til eksempelvis musikeren og instrumenthandleren Hans Gade, hvis søn Jacob senere skulle blive verdensberømt for sin Tango Jalousie (1925), der har finansieret den fond, der har støttet mange unge musikere i Danmark.
Nævnes bør også pianisten, mæcenen og godsejerfruen Orpheline Olsen, der også var kgl. kammersanger Peter Schrams adoptivdatter, som flyttede til det lille gods Lille Grundet med sin mand, William Olsen, i 1875. Hun var frem til sin fraflytning i 1891 en drivkraft i Vejle Musikforening (1884‑1958), hvor hun ofte akkompagnerede de mange solister og ensembler, der kom hertil takket være faderens kontakter til musiklivet i hovedstaden.
Vejleegnen er også kendt for sine mange spillemænd, heriblandt digteren Anton Berntsen og førnævnte Hans Gade, der også var af spillemandsslægt, samt kroværten og spillemanden Frederik Iversen, der sammen med sin musikerkollega Jens Andersen fra Daugård byggede et kompleks af musik, anekdoter og folklore op på sit traktørsted Trædballehus i 1930’erne. Det musikalske miljø hos førstelæreren Hans Christian Mathias Krarup-Hansen i Vinding syd for Vejle fostrede en datter, Johanne Krarup-Hansen, der blev en stor operasanger. Komponisten Oluf Ring er opvokset i Jelling og var præget af den højskoletradition, der altid har udmærket seminariet i byen. Folkemindesamleren Evald Tang Kristensen, der boede i Mølholm fra 1897 til sin død i 1929, fik der besøg flere gange i 1920’erne af den berømte australske pianist og komponist Percy Grainger, der kom for at samle danske folkeviser med ham. Det blev bl.a. senere til en samling kompositioner kaldet »Danish Folk-Music Settings« (1922‑27).
Vejle har altid haft mange kor, og mange af byens musikdirektører har stået i spidsen for flere af dem. Paul Lekytié, en søn af Bagger-Sørensen-familien, grundlagde sit eget musikmiljø med »træskokomedier« til fordel for mindrebemidlede børn, og så skrev han ørehængeren »Blå Roser« (1939). Andre musikdirektører forsøgte at få symfonimusikken til byen, fx dirigenten Edmund Hansen, dirigent først for Vejle Koncertforenings Orkester (1941), senere (1956) Vejle Byorkester, og siden 1966 har dygtige amatørmusikere udgjort Vejle Symfoniorkester.
Læreren og musikeren Uffe Riis stiftede Vejle Garden i 1974, og året efter kom Vejle Kommunes Musikskole til. Den blev i mange år ledet af jazzpianisten Tove Frederiksen, der sad ved klaveret i de fleste indspilninger med de berømte »Lørdagspigerne«. Ud fra dette frodige miljø kom mange af den nye generation af rytmiske musikere som Jesper Riis, Jacob Riis, Torben Sminge, Sascha Dupont, Anders Christensen samt Emil, Nicolai og Mikkel Hess m.fl. Fra musikskolens klassiske miljø kan bl.a. nævnes Mathias Kjøller, Jette Skovbakke og Jonas Egholm.
I perioden 1991‑2011 var komponisten og pianisten Willy Stolarczyk kulturchef, hvilket fik betydning for især den klassiske og den nyere klassiske kompositionsmusik i byen.
Siden 1989 har Jelling Musikfestival udviklet sig til Danmarks tredjestørste festival over to dage med rockmusik. Festivalen, der drives af en erhvervsdrivende fond, har hvert år ca. 35.000 gæster. I Give har Give Open Air Festival siden 2005 afholdt koncerter midt i Give i Gullestrups Have, som de kalder Danmarks største endags- familiehavefest med et bredt udvalg af populærmusik.
