Landskabet i Vejle Kommune er i høj grad præget af isens bevægelser og smeltevandets forløb under sidste istid, hvor isen fra nordøst nåede frem til det område, som strækker sig fra nord til syd gennem Thyregod og Give og videre sydover forbi Daldover og Spjarup til Tågelund vest for Egtved. Denne grænse, som markerer isens maksimale udbredelse under sidste istid, kaldes Hovedstilstandslinjen og deler kommunens landskab i to. Vest for Hovedstilstandslinjen finder man således et typisk vestjysk bakkeø- og slettelandskab, mens landskabet mod øst består af højtliggende moræne.
Bakkeø- og slettelandskabet udgør den østligste del af Grindsted Hedeslette, der strækker sig ind i Billund Kommune mod vest og bl.a. omfatter Hastrup Plantage, Frederikshåb Plantage og den flyvesandsprægede Randbøl Hede. Bakkeøerne er resterne af gamle landskabspartier fra forrige istid, Saale. I Vejle Kommune består det særlige landskab af mange små, langstrakte bakkeøer, som er blevet kraftigt udjævnet af jordflydning. Bakkeøerne har en øst-vest-orientering og ligger adskilt af snævre smeltevandssletter bestående af sand og grus.
Øst for Hovedstilstandslinjen ligger store dele af landskabet 80‑100 m.o.h. og består i vid udstrækning af det jævne moræneland, som er så typisk for det østjyske landskab. Nordligst i kommunen udgør området mellem Vonge, Thyregod og Kulsø-Rørbæk Sø den sydligste del af Det Midtjyske Søhøjland. Her hæver terrænet sig flere steder mere end 120 m.o.h. i et langstrakt bakkeparti med en nordsyd- orientering og kulminerer lige øst for Lindet Krat i kommunens højeste punkt, Tranebjerg, 138,8 m.o.h. Den Østjyske Israndslinje slår en vældig bue gennem kommunen fra Egtved, nord om Jelling, forbi Ildved og videre øst om Grejs til Bredal og Engum. Flere steder langs linjen kan man se spor fra isranden i form af et småbakket landskab.
Det højtliggende morænelandskab øst for Hovedstilstandslinjen gennemskæres af en række dybe dale, hvoraf det største dalsystem udgøres af Vejle Fjord, Vejle Ådal og dalen med Engelsholm Sø og Fårup Sø. Fra Tørring i Hedensted Kommune fører en anden dyb, smal dal mod nordvest. I dalen ligger sørækken med bl.a. Rørbæk Sø og Kulsø på grænsen til Ikast- Brande Kommune, ligesom den rummer vandskellet mellem Danmarks to største vandløb, Skjern Å, der er den vandrigeste, og Gudenå, der er den længste. Sydøstligst i kommunen løber en smal dal fra Vejle forbi Børkop til Elbo Dal med ferskvandssøen Rands Fjord på grænsen til Fredericia Kommune. Mange steder har vandløb eroderet dybe kløfter i de stejle dalsider og sønderskåret det tilgrænsende moræneland. Det ses bl.a. ud mod Vejle Fjord. Mest imponerende er dog Grejsdal, der kommer nordfra og udmunder i Vejle Ådal ved Vejle.
Kyststrækningen mod Vejle Fjord består overvejende af høje, stejle, skovbevoksede skrænter med smalle foranliggende strande, som det fx kan ses ved Munkebjerg og Tirsbæk. Egentlige kystklinter findes ved Hvidbjerg øst for Gårslev. Kun få steder kantes istidslandskabet af større flader af marint forland, men kan bl.a. ses ved den flyvesandsprægede Hvidbjerg Strand med Mørkholt Hage og i dalmundingen ved Sellerup Strand og Elbo Dal.