Tølløse var oprindelig en landsby med kirke fra middelalderen; fra samme periode stammer også herregården Tølløsegård. Denne bebyggelse kaldes i dag Gammel Tølløse. Stationsbyen Tølløse ca. 2 km mod øst opstod på bar mark i forbindelse med anlæggelsen af Nordvestbanen Roskilde-Kalundborg i 1874. De første planer gik ud på, at stationen skulle ligge lidt nord for den senere by. Men historien fortæller, at det var greven på Tølløsegård og greven på Aastrup, der traf beslutningen, for ingen af dem ville have ødelagt deres jagtmarker. Derfor blev stationen placeret midt mellem de to herregårde.
I det område, hvor stationsbyen blev anlagt, lå kun tre huse, inden banen kom til. På åbningsdagen var der blevet opført tre bygninger mere: stationsbygningen, Hotel Håbet (senere Tølløse Hotel) og købmand Emil Jensens ejendom. I begyndelsen gik det ikke så stærkt med etableringen af byen. De første huse lå tæt på stationen, men efterhånden blev der bygget fra jernbaneoverskæringen ud ad Tølløsevej og Kvarmløsevej.
Det var mest købmænd og håndværkere, der bosatte sig i byen, men også funktionærer med tilknytning til banen eller postvæsenet. Fælles for de fleste var, at de kom uden nævneværdig kapital og opbyggede deres virksomhed fra bunden af. Der kom efterhånden fremdrift i den nye stationsby. I 1901 åbnede Høng-Tølløse-banen, og den fik med tiden stor betydning for byen, bl.a. som knudepunkt for transport af tørv fra Åmose i 1940’erne. I 1895 oprettede en kreds af byens borgere en privat realskole. De første år blev den lejet og drevet af skiftende skolebestyrere. I 1928 blev den købt af Louise Høyer og Marie Hesseldahl, som indtil 1962 stod i spidsen for skolen, der skiftede navn til Tølløse Mellem- og Realskole (i dag: Sejergaardsskolen).
I den østlige ende af byen byggede Det Danske Baptistsamfund i 1928 et stort skolekompleks, tegnet af Charles K. Gjerrild, bror til den første forstander, Henry Gjerrild. Man havde hidtil haft højskole syd for Aalborg, hvor der også var realkursus og prædikantskole, men pga. pladsmangel valgte man at flytte hele skolevirksomheden til Tølløse. Skolen fik navnet Baptisternes Højskole (i dag: Tølløse Privat- og Efterskole). Desuden var der i 1901 blevet bygget en helt ny kommunal skole i udkanten af stationsbyen, så Tølløse var velforsynet med skoler.
Der kom efterhånden flere mellemstore virksomheder til byen: teglværk, savværk, flødefabrik, margarinefabrik samt ostefabrik. I 1922 åbnede Dansk Central Most, og i 1933 Tølløse Camembert Fabrik. Et alderdomshjem opførtes i 1928 efter tegninger af Frede Hallelev, og i 1934 fik byen et kommunekontor. Indbyggertallet voksede, således lå tallet i 1921 på 824, men i 1950 var der registreret 1.375 indbyggere.
I 1968 blev Tølløse administrativt center i den nye storkommune Tølløse, hvor administrationen blev samlet i et nybygget rådhus i 1971. Byen var præget af mange detailforretninger med god handel, men efterhånden måtte flere lukke. Indbyggertallet voksede fra 1.982 i 1970 til 3.624 i 2006.
