Told og toldopkrævning var frem til 1800-tallet nøje forbundet med de politiske og statsretslige forhold i Sønderjylland. Grundlæggende blev det delingerne af hertugdømmerne i 1490, 1544 og 1581, der bevirkede, at landsdelen var opdelt i bælter med skiftende landsherrer – og dermed også skiftende toldområder. Hertil kom fællesregerede områder og kongerigske enklaver.

Ved de fælles toldsteder Slesvig, Rendsborg og Frederiksstad blev der i senmiddelalderen opkrævet den såkaldte ”communiontold” efter satserne i en fælles toldrulle. Her blev indtægten delt ligeligt mellem landsherrerne. Hertil kom de private toldsteder i deres respektive landområder, hvor tolden blev opkrævet efter egne toldsatser. De dele af hertugdømmerne, som blev regeret af den gottorpske hertug, blev i kongeriget Danmark med visse undtagelser i toldmæssig henseende behandlet som udland. Derimod blev flere af de byer i Slesvig og Holsten, kongen var hertug over, ved handel på Danmark og Norge behandlet som indland. Dog var der flere begrænsninger herpå, lige som antallet af byer, der nød godt af disse "fyrstedømmeprivilegier”, svingede i tidens løb. Endelig var der også toldfri områder og personer i landsdelen samt marskegnene, der mod betaling havde købt sig fri for en del af afgifterne. I forhold til kongeriget udgjorde Slesvig således et andet, men ikke ensartet toldområde.

Det var særligt mærkbart for okseeksporten over land, der kom i berøring med fire forskellige typer toldsteder. Først var der de kongerigske toldsteder eller toldkontrolsteder. Ved Kongeåen var det Kolding, Foldingbro og Gredstedbro – de to sidstnævnte i et samspil med Ribe toldsted. Herpå fulgte i hertugdømmerne private kongelige, private gottorpske og fælles toldsteder. På strækningen mellem Kolding og Rendsborg passerede de rejsende alene seks toldsteder. Foruden de to nævnte byer drejede det sig om Haderslev, Toldsted, Bov og Slesvig/Dannevirke (Gottorp). Undervejs skulle der betales eksporttold (”den store told”) af okserne samt ved hvert efterfølgende toldsted en mindre passageafgift (”den lille told”).

Efter Store Nordiske Krig blev de gottorpske dele af hertugdømmet Slesvig ved fredsslutningen i 1721 overdraget til den danske konge. Herved skete der dog ingen afgørende toldmæssige ændringer, og frem til 1800-tallet var der kun tale om en forsigtig toldmæssig tilnærmelse mellem hertugdømmet Slesvig og kongeriget, der forblev to adskilte toldområder. Det var først i 1850, at dette toldskel blev udjævnet. Derimod blev de mange små toldsteder i Sønderjylland afviklet tidligere. F.eks. bestemte en told- og licentrulle i 1768, at toldstederne i Ravsted, Saksborg, Medelby, Soholm, Klægsbøl, Stedesand, Kravlund, Brøns, Roager, Lindet Skov, Neder Jerstal og Toftlund skulle nedlægges. De små landtoldsteder i Toldsted og Bov blev bevaret til 1790.

Fra Holstens optagelse i Det Tyske Forbund 1815 og indtil 1838 blev Holsten toldmæssigt opfattet som udland i forhold til kongeriget, men fra 1838 fik Holsten ret til frit at afsætte sine varer i kongeriget. Dette ændrede sig kortvarigt i 1850, da toldgrænsen ved Kongeåen flyttedes til Ejderen. I 1863 var der 31 toldsteder i hertugdømmet Slesvig. Det var tanken, at en ny toldlov samme år skulle omfatte hele monarkiet, men med afståelsen af hertugdømmerne i 1864 blev den gamle Kongeågrænse atter gjort til told- og statsgrænse. Bevogtningen heraf blev overladt til et toldgrænsekorps. Det blev dannet af resterne af et i 1838 oprettet Holstensk Grænsegendarmerikorps, der i 1864 blev formeret under navnet Grænsetoldpolitikorpset, og som i 1876 blev omdøbt til Grænsegendarmeriet.

Efter de to folkeafstemninger i Nord- og Mellemslesvig i 1920, som førte til Genforeningen for Nordslesvigs vedkommende, fik told- og statsgrænsen sit nuværende forløb, og til grænsekontrollen blev der opført en række bygninger langs den nye grænse. Med indførelsen af det indre marked er toldgrænsen stort set ophævet.