Aflejringer fra sidste istid består af moræneler samt smeltevandssand og -grus. Markant er Rebild Bakker, der især består af smeltevandsaflejringer. De prækvartære lag i den østlige del af kommunen består af skrivekridt fra Kridttiden og i den vestlige del af bryozokalk fra Danien. Kalken kan ses i flere kalkbrud i kommunen. Sydpå findes tertiære leraflejringer under de kvartære lag. I ca. 150 m’s dybde under Sønderup Ådal ligger toppen af Suldrup Salthorst med salt fra Perm.
Rebild Kommunes mange dale som Gravlevdalen samt Sønderup, Simested og Lindenborg Ådale rummer ferskvandsaflejringer af ler, sand og tørv fra tiden efter sidste istid. I stenalderen blev der desuden aflejret marint gytje (dynd) langt ind i Gravlevdalen.
I området omkring Gravlevdalen og Rebild Bakker udspringer en række kilder fra kalklagene. Derudover er der tegn på karstopløsning i kalklagene, hvilket har ført til dannelse af karstsøer. Der indvindes grundvand fra smeltvandssand og -grus, skrivekridt og Danien-kalksten.