Langå nævnes første gang i 1345, og byens kirke stammer fra middelalderen. I 1862 blev jernbanestrækningen Aarhus-Langå-Randers åbnet, og året efter kom strækningen mellem Langå og Viborg. Byen blev nu et vigtigt knudepunkt for den jyske banedrift, og indbyggertallet voksede fra 316 i 1850 til 1.473 i 1921. Jernbanestationen blev lagt 1 km fra Gammel Langå, og med banen blev der også anlagt en bro over Gudenåen. Tyskerne ødelagde broen i 1864, men det tog dem fire dage, før det lykkedes. I 1905 fik byen en ny bro, Amtmand Hoppes Bro. Langå Stationsby havde ikke et naturligt opland, og en stor del af indbyggerne kom til at arbejde på en af DSB’s arbejdspladser: banen, grusgraven eller den planteskole, der leverede planter til de jyske og fynske banestrækninger. I 1890’erne blev der anlagt en haglfabrik, som i mange år var Skandinaviens eneste. Ved siden af industri ernærede byens indbyggere sig ved landbrug og handel.
Omkring 1930 var dobbeltbyen Gammel Langå og Langå Stationsby vokset sammen til én. Håndværk og industri blev den vigtigste beskæftigelse efterfulgt af transport. Under 2. Verdenskrig blev haglfabrikkens høje tårn brugt som observationspost for flyvere, og Langåbroerne blev sprængt i luften af danske modstandsfolk. Byen fortsatte udviklingen med handel, håndværk og industri, men Gudenåen forblev dog en hindring for Langå som handelscentrum. Langå voksede markant fra 1.473 indbyggere i 1921 til 2.332 indbyggere i 1965. Herefter faldt tallet til 2.320 i 1970. I 1958 var der 39 fremstillingsvirksomheder og 47 detailhandlere, og efterkrigstidens bybillede bød på mange butikker og forretninger, der vidnede om en by i fremgang, selv om den var klemt af bl.a. Randers.
I 1970 blev Langå kommunecenter, men som følge af jernbanens reducerede betydning steg indbyggertallet kun svagt, fra 2.320 i 1970 til 2.845 i 2007. Der kom boliger mod nordvest og erhvervsområde mod nord. Langås industri, handel og service trivedes på bekostning af erhvervslivet i kommunens øvrige byer. Dette fik Langå Kommune til fra 2005 at satse på iværksættere og turisme.
