Med herredsfoged Christopher Krabbe fik Kjellerup i perioden 1886‑1909 en fremsynet og energisk foregangsmand. Ting- og Arresthuset på Torvet 12 blev indviet af Christopher Krabbe i 1909 som afslutning på hans embedsperiode. Huset, som udgør torvets vestlige afgrænsning, er den centrale bygning på torvet og er bygget i historicistisk stil med en klart symmetrisk facade omkring en midterakse. Det to etager høje hus har valmet tag og er bygget i traditionelle materialer med røde facadetegl og røde teglsten på taget. I dag benyttes bygningen til liberale erhverv.
I anlægget foran det tidligere tinghus står en buste af Christopher Krabbe.
