Oprindelsen til Holbæk var en gård ved landsbyen Labæk. Denne kom i 1231 i kong Valdemar Sejrs besiddelse, og der opstod en bebyggelse i tilknytning hertil. Kongen anlagde formodentlig også Holbæk Slot lige uden for den daværende bygrænse. Det bestod i middelalderen af et rektangulært teglstenshus med et tilbygget kvadratisk tårn omgivet af voldgrave. Der er stadig bevaret middelalderligt murværk i kælderen under en eksisterende bygning på stedet. I 1269 eller 1275 oprettedes et dominikanerkloster i Holbæk. Kort efter blev både klosteret og byen hærget af en voldsom brand.
Der er fundet middelalderlige bebyggelsesspor langs Ahlgade. Disse viser, at husene var lerklinede bindingsværksbygninger anlagt på stensyld med bagvedliggende aktivitetsområder med forskelligt håndværk, brønde og affaldsdeponeringer.
Placeringen ved fjorden var gavnlig for byens udvikling; i 1328 er en skibsbro omtalt. Holbæk blev formodentlig købstad i anden halvdel af 1200-tallet.
Med Reformationen blev dominikanerklosteret overtaget af kronen. Reformationen førte desuden til nedlæggelsen af Sankt Nikolai Kirke i byens vestlige ende, hvorimod klosterkirken Sankt Lucius blev kirke for byens sognebørn. Byen oplevede fremgang bl.a. som følge af kornhandel, og skibsbroen udvidedes i 1582, hvilket befordrede handel med tyske og hollandske skibe. Under Karl Gustav-krigene 1658‑60 var byen besat og blev hærget. Først i anden halvdel af 1700-tallet oplevede Holbæk igen fremgang. I første halvdel af 1800-tallet fik især korneksport til England betydning for byens økonomi. I samme periode udvikledes specialbutikker. Boghandler Christian Bertelsen åbnede en af provinsens første boghandler i 1836, købmand S. Seidelin åbnede i 1843 den første manufakturforretning, og købmand C.A. Ollendorff slog i 1845 dørene op til en delikatesseforretning, som fik kunder over hele Sjælland.
Det fik stor betydning for købmændene i Holbæk, at den før så åbne skibsbro i 1842 fik en østlig pendant, så der opstod en lukket havn, hvor skibene kunne losse og laste uanset vejret. Hvor der i 1787 var i alt 1.159 indbyggere i Holbæk, var tallet i 1840 steget til 2.105.
Holbæk havde i 1800-tallet mange købmandsgårde til servicering af landboerne; gårdene var let genkendelige med deres store kornpakhuse i tre eller fire etager, som de lå rundtomkring i byen. Men Holbæk blev også en industriby i løbet af anden halvdel af 1800-tallet. To jernstøberier, fem maskinfabrikker og en motorfabrik blev etableret frem til århundredskiftet; Holbæk blev kaldt »en stålby«. Anlæggelsen af Holbæk Dampmølle i 1876 og Holbæk Amts AndelsSvineslagteri i 1888 understregede dog landbruget som drivkraft bag industrien. Slagteriet var et af de større andelsslagterier i landet og blev byens største arbejdsplads.
Til byens forsyning etableredes et gasværk i 1865, et vandværk i 1890 og et elværk i 1911. I 1869 blev den gamle klosterkirke nedrevet, og en ny sognekirke, Sankt Nikolai Kirke, kunne indvies i 1872.
I 1874 kom Nordvestbanen, jernbanen Roskilde-Kalundborg, til Holbæk, og herfra blev Odsherreds Jernbane sat i drift i 1899. Trafikken gav byens to hoteller et vældigt løft, og de blev suppleret med tre nye. I 1880’erne etableredes færgefart imellem Holbæk, Orø og Hornsherred til glæde for handelsstanden i Holbæk. Fiskerihavnens anlæggelse i 1881 og dannelsen af fiskernes fællessalg styrkede fiskeriet i Isefjord.
Hvor indbyggertallet i 1855 lå på 2.811, var det i 1901 på 4.574. Dette førte til behov for nye boliger, og i området omkring den nye Holbæk Central Skole opførtes små byhuse til arbejderne, mod vest opstod et villakvarter. Der blev bygget flere skoler, bl.a. Søndre Skole i 1903 og Bygmesterskolen i 1915. Stenhus Kostskole åbnede i 1906. I 1909 blev det besluttet, at Holbæk skulle være en garnisonsby, og i årene 1912‑14 opførtes en artilleri- og fodfolkskaserne i byen. Retten i Holbæk kom til i 1919.
Den politiske meningsdannelse udvikledes markant i sidste halvdel af perioden. Det førte til udgivelsen af fem aviser med hver sin profil: to Venstreaviser, en konservativ, en radikal og en socialdemokratisk. I første halvdel af 1900-tallet forbedredes byens infrastruktur. I 1920 gennemførtes en tiltrængt udvidelse af havnen øst for den gamle havn, og i 1930’erne blev Munkholmvej anlagt. Som modtræk mod de dårlige tider i 1930’erne oprettedes i 1932 landets første erhvervsråd. Det fik afgørende positiv betydning for byens image og selvbevidsthed i de følgende årtier.
Endnu op til 2. Verdenskrig var byens erhvervsliv tæt forbundet med det agrare opland. Mekaniseringen af landbruget efter krigen og de øgede forbindelser til omverdenen gjorde flere af byens industrier urentable. Til gengæld kompenserede genåbningen af skibsbyggeriet i 1938 lidt for tabte arbejdspladser.
Bolignøden i 1930’erne og op i 1950’erne satte gang i sociale boligbyggerier langs indfaldsvejene og i oprettelsen af flere boligselskaber. Indbyggertallet voksede fra 11.198 i 1921 til 14.732 i 1950. Holbæk blev gradvis en uddannelsesby. Hvor de første mandlige studenter blev udklækket på Stenhus Gymnasium i 1912, fulgte kvinderne i 1944. For at afbøde lærermanglen i Nordvestsjælland etableredes Holbæk Seminarium i 1960, og samtidig åbnedes en sygeplejeskole ved hospitalet. Teknisk Skole og handelsskolen fik nye bygninger.
Omfartsvejen syd om byen anlagdes i 1940 for at aflaste trafikken i bymidten. Omlægning af Jernbanepladsen og bygningen af en ny jernbanebro over en firesporet vej mod syd brød for alvor med den hindring, som jernbanen havde udgjort for byens udbygning mod syd. Ved Kommunalreformen i 1970 blev Holbæk administrativt center i den sammenlagte kommune af samme navn. Holbæk Amt blev samtidig nedlagt, og administrationen af det nye Vestsjællands Amt flyttede til Sorø.
Efter reguleringen af området omkring jernbanen 1970‑72 begyndte byen for alvor at vokse både mod øst og vest, men især mod syd. Indbyggertallet, der i 1970 lå på 19.485, var i 2006 steget til 25.622; stigningen skyldtes bl.a. udflytning fra hovedstadsområdet.
Holbæk ophørte med at være garnisonsby i 1982; Holbæk Amts Andels Svineslagteri lukkede i 1988 og sygeplejeskolen i 1998. De sidste virksomheder blandt byens tunge industri afvikledes gradvis efter 1970, nu var Holbæk overvejende blevet en service-, uddannelses- og handelsby. Et indkøbscenter, Holbæk Megacenter, skød op ved Omfartsvejen syd for byen. Industrihavnen afvikledes fra ca. 2002, og byggeselskaber fik mere eller mindre frit løb til bebyggelsen af området.
