Som nabo til Museum Sønderjyllands sekretariat i Haderslev ligger er Museum Sønderjyllands arkæologiske museum, Museum Sønderjylland – Arkæologi, der tematisk dækker alle fire sønderjyske kommuner (Haderslev, Sønderborg, Tønder og Aabenraa) samt Kolding Kommune. Her formidles Sønderjyllands historie fra stenalder til renæssance. I det tilhørende lille frilandsmuseum vises eksempler på bygninger fra især Haderslev Østeramt. Museet blev oprettet som tysk amtsmuseum i 1887 efter fundet af to guldskåle fra yngre bronzealder ved Gammel Ladegård.
Museets første leder, dyrlæge J.P. Schmidt, afløstes i 1905 af Christian Matzen Lund. Fra 1936 til 1978 blev museet ledet af historikeren Hans Neumann, og i hans lange embedsperiode fik museet en moderne bygning og udvidede sit arkæologiske ansvarsområde til at omfatte hele Sønderjylland – en ordning, der blev knæsat ved etableringen af Sønderjyllands Amt i 1970. Museet blev nu en del af det amtslige sønderjyske museumsvæsen, og ansvarsfordelingen mellem museerne i amtets fire købstæder blev i de følgende år uddybet og formaliseret. I 2006 indgik Haderslev Museum i den selvejende institution Museum Sønderjylland sammen med de øvrige amtslige museer.
