Haarby var oprindelig en landsby med kirke fra middelalderen. Her lå fra 1500-tallet også en vandmølle; et uldkarteri åbnede før 1875. Et andels mejeri oprettedes i 1883, og året efter opførtes en saftstation for den nyanlagte Assens Sukkerfabrik. I 1905 indviedes et elværk. To forsamlingshuse blev opført i hhv. 1887 og 1891; i 1913 fulgte et missionshus.
Perioden efter 1920 var en opgangstid for byen. I 1921 lå indbyggertallet på 670, og dette tal var i 1950 vokset til 991. Saftstationen blev ganske vist nedlagt i 1920, da der i stedet blev anlagt en roebane til Assens. Denne bane nedlagdes så i 1960, da man gik over til lastbiltransport. I årene 192667 lå der et fjerkræslagteri i byen, som på et tidspunkt var Danmarks største. En anden stor virksomhed var Fengers Konservesfabrik fra 1937-38. I en periode i 1950’erne og 1960’erne havde Haarby Ketcherfabrik (etableret 1955) en stor eksport til bl.a. Indonesien. I 1952 fik byen centralskole; i 1966 fulgte en hal (i dag: HaarbyHallerne). Byen fik fjernvarmeanlæg i 1959.
I 1966 blev Haarby administrativt center i den nyoprettede kommune af samme navn. Indbyggertallet, der i 1970 lå på 1.506, var i 2006 vokset til 2.386, og væksten førte til opståen af nye villakvarterer. Fengers Konservesfabrik lukkede i 1975, men i 1982 overtog møbelfabrikken Montana Furniture A/S lokalerne. Sammen med procesvirksomheden Cabinplant A/S fra 1969 udviklede de sig til at blive byens store virksomheder.
