Bagsværd ligger i et kuperet morænelandskab fra sidste istid med højder op til 35 m nær Store Hareskov i nord. Herfra falder terrænet hovedsagelig brat ned mod tunneldalen med Bagsværd Sø, hvor Aldershvile Slotspark og Radiomarken langs bredden er en del af byens grønne områder, der også omfatter det lavereliggende terræn ved Smør- og Fedtmosen i byens sydvestlige del. Moserne er en del af Hjortespringkilen, der indgår som et af de grønne områder i Fingerplanen fra 1947.
Bagsværd ligger i den nordlige del af Gladsaxe Kommune syd for Bagsværd Sø og øst for Store Hareskov. Mod syd er byen vokset sammen med Gladsaxe. Bymidten ligger ved Bagsværd Hovedgade nær S-togsstation, mens Hillerødmotorvejen og Bagsværdvej betjener gennemgående trafik. Ved motorvejen ligger et erhvervsareal, men ellers er Bagsværd en sammensat boligby med Værebro Parks høje blokke samt række-, kæde- og parcelhuse og ved søen villaer.