Terndrup er en gammel landsby, som siden 1853 er kendt for sine grundlovsmøder i Terndruplund. Udviklingen tog fart, da herredsretten 1884-85 blev flyttet hertil fra Bælum, og byen derfor fik et tinghus. I 1892 blev der opført et amtssygehus og i 1901 en kirke i nygotisk stil. Landbosparekassen i Aalborg oprettede sin første udenbys filial her i 1886.
Terndrup havde op gennem 1900-tallet kun en beskeden befolkningsudvikling; i 1950 var der blot 498 indbyggere, mens der i 1970 var 782. De ledende erhverv var håndværk og industri efterfulgt af liberale erhverv og administration. I 1945 fik byen alderdomshjem, i 1956 en ny skole og endelig blev sygehuset udbygget, bl.a. i 1961.
Indbyggertallet i Terndrup blev fordoblet fra 782 indbyggere i 1970 til 1.579 indbyggere i 1990, men faldt derefter til 1.512 i 2006. Fra 1970’erne udvikledes et lille industriområde syd for byen, hvor bl.a. Terndrup Turistbusser (etableret 1982) holder til. Byen blev hårdt ramt af den offentlige centralisering. Sygehuset blev i 1991 først rehabiliteringscenter og senere lukket (2008, nedrevet 2014). Retten i Terndrup ophørte med udgangen af 2006, hvorefter Tinghuset blev solgt. Efter Strukturreformen i 2007, da Terndrup indgik i Rebild Kommune, er byens rådhus fortsat blevet anvendt til kommunal administration.
