A rómaiak egy meglehetősen bonyolult közigazgatási rendszer hálóját feszítették ki az általuk meghódított területekre. Ennek a rendszernek a központja Róma volt. A provinciák igazgatását a köztársaság korában a senatus, Augustustól fogva a princeps és a senatus, majd Septimius Severus után egyedül a princeps intézte, saját belátása szerint. A köztársaság korában Rómának 16 „tengerentúli” provinciája volt, ezek száma Nero uralkodásának végére 36-ra nőtt.
Traianus idejében, akinek uralkodása alatt a Római Birodalom elérte legnagyobb kiterjedését, 48 provinciáról tudunk; míg végül a diocletianusi átszervezéseknek köszönhetően számuk legalább 100-ra nőtt, Itáliát is beleértve. A provinciák természetesen más-más értéket képviseltek a római állam számára, amely elsősorban saját hasznára igyekezett fordítani az ott megtalálható humán és természeti erőforrások potenciálját, amellett tagadhatatlanul igyekezett „civilizálni” is az adott területet. Ez a folyamat - finoman szólva - nem volt ellentmondásmentes, ami időről időre még a régebben meghódított tartományokban is kivívta a provinciálisok lázadását.

A provincia kifejezés a Kr. e. 2. század első felében jelentős változáson ment keresztül: eredetileg csak a senatus által kiadott megbízatást (pl. egy nép meghódítását) jelentette, majd lassanként a meghódított terület elnevezésévé vált. Ezek kormányzása azonban eleinte nem volt egyszerű a szűk, városállami keretek között.
Kr. e. 227-ben a praetorok számát négyre növelték (Liv. per. 20), s közülük egyet-egyet Siciliába és Sardiniába (illetve Corsicára) küldtek. Hosszú ideig tehát a praetorok voltak a helytartók, míg Sulla úgy intézkedett, hogy a praetorok hivatalos évüket Rómában tartoznak tölteni, s csak azután mehettek „praetorhelyettes” (pro praetore) címmel valamelyik tartományba.

Minden helytartó a teljes imperium birtokában volt, de Kr. e. 122 óta az olyan tartományokat, ahol háború folyt, s így katonaságra volt szükség, csak consulok kaphatták pro consule címmel. Ez a különbség a consularis és praetorialis tartományok között még azután is megmaradt, miután az előkelőbb proconsul cím kiszorította a propraetor címet, úgy, hogy a köztársaság végére a proconsul azonos jelentésű volt a helytartóval. Kezdetben a senatus esetről esetre állapította meg, hogy mely tartomány legyen consularis s melyik praetorialis.
Később már volt consulokat csakis Asia és Africa tartományokba küldték. Hogy a volt consulok, illetve volt praetorok közül ki melyik tartományba megy, azt sorsolással döntötték el. A proconsulnak minden tartományban több legatus (rendesen három) és egy quaestor segédkezett, s ezek egyike helyettesítette is távollétében. A quaestor kezelte a pénztárt, de az adók behajtását bérlőtársaságoknak (publicani) adták ki, a helytartók mindazonáltal találtak módot a meggazdagodásra. Zsarolásaik ellen az alattvalókat a lex repetundarum volt hivatva megvédeni.

A provinciává szervezés szakkifejezése, úgy tűnik, a redacta in formam provinciae volt (Liv. per. 45, 134; Vell. II. 38, 1, II. 97, 4; Tac. Agr. 14; Ann. II. 56; Suet. Iul. 25, 1; Aug. 18, 2; Tib. 37, 4; Cal. 1, 2; Vesp. 8, 4 stb.), bár ennek pontos jelentése vitatott. Például nem tudni, hogy mennyiben foglalta magába az adott terület feltérképezését és kataszterizációját (a forma egyik jelentése ugyanis „térkép”), illetve minden esetben együtt járt-e egy lex provinciae kibocsájtásával (Kr. e. 146, Scipio Aemilianus: leges provinciae Africae; Kr. e. 132, Publius Rupilius: lex Rupilia Szicíliának; Kr. e. 63, Pompeius Magnus: lex Pompeii Bithyniának).
A lex provinciae - ha egyáltalán létezett ilyen az adott területen - mindenesetre négy dolgot szabályozott: a provincia külső és belső határait, megállapította az adókat és adókörzeteket, felosztotta a bírói körzetekre (conventus), és szabályozta a magistratusok hatáskörét.

Augustus Kr. e. 27-ben megszerezte azoknak a többnyire határ menti, kevéssé pacifikált tartományoknak felügyeletét, amelyekben légiók állomásoztak, s ehhez Kr. e. 23-ban az imperium proconsulare maiust is megkapta, ami alapján valamennyi provinciában joga volt a senatus által kinevezett helytartót felülbírálni.
A belső békésebb, régóta pacifikált (vagyis hadsereg nélküli) provinciák megmaradtak a senatus kezében. Az egyetlen kivételt Africa jelentette, ahol a legio II Augusta állomásozott, ám Augustus ezt is kivette a helytartó kezéből, és egy külön legatus alá rendelte. A senatus hatalmának elenyészésével, Septimius Severus alatt ez a megkülönböztetés eltűnt, így a későbbiekben már minden provincia a császár ellenőrzése alá tartozott.
A senatusi provinciák irányítása továbbra is a köztársaságkor idején kialakult módszerek szerint történt. Praetorius-ként a senatori rangú propraetor elfoglalhatta a kevésbé jelentős, katonasággal nem rendelkező, censoriusként a proconsul pedig a stratégiailag és gazdaságilag is jelentős tartományok helytartói székét. Consularis rangú helytartókat csak Africa és Asia tartományokba küldtek.

Az előbbiektől eltérően a császári provinciák (provinciae Caesaris) igazgatása kizárólag a princeps kezében volt, és elsősorban katonai jelleget öltött. A katonai kormányzatból adódóan ezeknek a tartományoknak is - a bennük állomásozó hadsereg létszáma alapján - alapvetően két típusa volt: az egylegiós provinciákat az (értelemszerűen senatori rangú) legatus Augusti pro praetore, míg a két- vagy többlegiós tartományokat a legatus Augusti pro consule irányította, aki egyben a tartomány hadseregének főparancsnoka (imperator) is volt. Ez a különbségtétel annyira szigorú volt, hogy mikor egy egylegiós provincia ideiglenesen (többnyire háború miatt) még egy legiót kapott, erre az időre proconsuli rangú legatust küldtek oda.
A császári legatusok kiválasztásának joga kizárólag a princepset illette, és csak neki tartoztak számadással. A senatusi és császári tartományok kormányzói között további különbséget jelentett, hogy az utóbbiak (a legatusok) katonai szolgálatot teljesítettek, imperiumuk a római pomerium átlépésével vette kezdetét, és általában három évet töltöttek provinciájukban. Ezzel szemben a proconsulok és propraetorok polgári tisztviselők voltak, hatalmuk csak a számukra kijelölt provincia határának átlépésekor kezdődött, és egy évet tölthettek kijelölt területükön.

Augustus a társadalmi béke érdekében ügyelt arra, hogy a lovagrendet se hagyja ki a birodalom irányítási feladataiból. Így a császár által kormányzott területeken létrejöttek olyan kisebb provinciák, amelyeket lovagokra bízott (praefectusi, majd Claudiustól kezdve procuratori rangban).
A lovagi karrier egyik csúcsát jelentette a praefectus Aegypti tisztsége, mivel Augustus ezt a tartományt különleges irányítás alá helyezte, ahová a senatoroknak csak írásos engedéllyel volt szabad belépniük.
A Hispania Tarraconensishez tartozó Baleári-szigeteket egy praefectus pro legato insularum Baliarum kormányozta; a kicsinyke alpesi tartományokban élő törzsek fölé is lovagrendi helytartókat neveztek ki (praefectus civitatum in Alpibus Maritimis; prefectus Raetis Vindolicis vallis Poeninae); éppígy a bennszülöttek lakóközösségei (civitatesperegrinae) is egy római praefectust kaptak vezetődül.
Noricumban a regnum Cottianum (M. Iulius Cottius királysága) olyan békésen került a római állam tulajdonába, hogy a király fiát, C. Iulius Donnust nevezték ki praefectus ceivitatiumnak (sic) (CIL V 7231 = ILS 94).
Nem így alakult a helyzet az apró, de nem jelentéktelen Iudae- ában, ahol Archelaos ethnarcha száműzetését (Kr. u. 6) követően szintén egy Rómában kinevezett lovagrendi praefectus vette át a közvetlen irányítást, aki formálisan Syria legatusának alárendelve, de teljhatalommal felruházva működött. Iudaea leghíresebb praefectusa Pontius Pilatus volt, akinek dicstelen működéséről nemcsak az evangéliumok, hanem az alexandriai Philón és Flavius Iosephus is tudósítottak.

A birodalmat ezenfelül az ún. klienskirályok (hivatalos nevükön „baráti és szövetséges” királyok: reges socii et amici) által irányított területek vették körül. Noricumot és Iudaeát már említettük, de ide tartozott Commagene (IV. Antiochus, Kr. u. 38-72), Armenia (III. Artaxias, Kr. u. 18-35); Bosporus (Dynamis, Kr. e. 8 - Kr. u. 7/8), Thracia (IX. Cotys, Kr. u. 1. század); Pontus (Pythodoris, Kr. e. 8-Kr. u. 23), Iudaea (I. Agrippa, Kr. u. 41-44), Arabia (IV. Aretas, Kr. e. 9-Kr. u. 40), Mauretania (Ptolemaios, Kr. e. 1-Kr. u. 40), Numidia (II. Juba, Kr. e. 29-Kr. u. 23), Britannia, Regnensis törzs (Cogidubnus, Kr. u. 1. század második fele), Britannia, Icenus törzs (Prasutagus, Kr. u. 47-60) stb.
A klienskirályok csak névleg voltak függetlenek, valójában a római néppel, illetve a polgárháborúk idején az egyes kiemelkedő hadvezérekkel, később pedig magával a princepsszel álltak cliens-patronus viszonyban. A princeps bármikor megfoszthatta őket királyságuktól, ahol addig is csak névleg „uralkodtak”: például bizonyos, hogy a külügyek, a hadügy és a pénzügy tekintetében semmilyen önálló döntést nem hozhattak. Legfőbb feladatuk Róma érdekeinek képviselete volt saját népük felé, emellett újoncokat kellett kiállítaniuk a hadseregnek, és többnyire adófizetésre is kényszerítve voltak.