Między Albanią Kaukaską a starożytnym Rzymem istniał trwały związek. W 65 r. p.n.e. rzymski generał Pompejusz, który właśnie podporządkował sobie Armenię i Iberię oraz zdobył Kolchidę, wkroczył na czele swojej armii do Albanii. Przejeżdżając przez jałową prowincję Cambysenē (Kambičan) - niedawno przejętą od Ormian przez Albańczyków - skręcił w kierunku Morza Kaspijskiego.
Podczas przeprawy przez rzekę Alazan, starł się z siłami Oroezesa, króla Albanii, i ostatecznie ich pokonał. Przed powrotem do Anatolii Pompejusz zapewnił sobie kontrolę nad Albańczykami, docierając niemal do Morza Kaspijskiego.
Ale Albańczycy, pozostający pod wpływem imperium Partów, nie ociągali się z buntem przeciwko Rzymowi: w 36 r. p.n.e. Marek Antoniusz był zmuszony wysłać jednego ze swoich poruczników, by położył kres ich rebelii. Zober, który był wtedy królem Albanii, skapitulował i Albania stała się - przynajmniej z nazwy - "rzymskim protektoratem", rozpoczynając stan wasalstwa, który trwał przez prawie trzy stulecia.
Król Albanii pojawia się w spisie dynastii, których ambasadorów przyjmował August.
W 35 r. n.e. król Iberii Pharasmanes i jego brat Mitrydates, przy wsparciu Rzymu, zmierzyli się z Partami w Armenii: Albańczycy okazali się skutecznymi sojusznikami, przyczyniając się do klęski i tymczasowego wyparcia Partów.
Cesarz Neron przygotował w 67 roku n.e. wyprawę wojskową na Kaukaz: chciał pokonać barbarzyńskich Alanów i podbić dla Rzymu wszystkie północne wybrzeża Morza Czarnego od dzisiejszej Gruzji-Azerbejdżanu po dzisiejszą Rumunię-Mołdawię, ale jego śmierć powstrzymała tę wyprawę.
Wespazjan był zdecydowany przywrócić i wzmocnić pełną władzę Rzymu na Kaukazie aż do Morza Kaspijskiego.
O obecności oddziału Legio XII Fulminata w odległości kilku kilometrów od brzegów tego morza (69 km na południe od Baku) świadczy inskrypcja sporządzona między 83 a 96 rokiem n.e. za panowania Domicjana.
W 75 roku n.e. XII Fulminata przebywała na Kaukazie, gdzie cesarz Wespazjan wysłał legion, by wsparł sprzymierzone królestwa Iberii i Albanii.
W Azerbejdżanie znaleziono inskrypcję o treści: IMP DOMITIANO CAESARE AVG GERMANICO LVCIVS IVLIVS MAXIMVS LEGIONIS XII FVL, Pod imperatorem Domicjanem, Cezarem, Augustem Germanicusem, Lucjuszem Juliuszem Maximusem, Legio XII Fulminata.
Niektórzy historycy twierdzą, że rzeczywista osada Ramana w pobliżu Baku została prawdopodobnie założona przez rzymskie oddziały Lucjusza Juliusza Maksymusa z "Legio XII Fulminata" w pierwszym wieku naszej ery i wywodzi swoją nazwę od łacińskiego Romana.
Wśród faktów, które wzmacniają tę hipotezę jest wojskowo-topograficzna mapa Kaukazu wydana w 1903 roku przez rosyjską administrację, na której nazwa miasta brzmi "Romana", różne rzymskie artefakty znalezione w regionie Absheron, a także określanie miasta przez dawnych mieszkańców jako Romani.
Dodatkowo, Ramana znajduje się na obszarze idealnie nadającym się na rzymskie "castrum" do kontrolowania pobliskiego portu w Baku, na handlowym szlaku morskim (przez Morze Kaspijskie) pomiędzy Kaukazem a równinami Azji Środkowej.
Pomimo wzrostu wpływów rzymskich, Albania nigdy nie przestała utrzymywać kontaktów handlowych i prawdopodobnie także kulturalnych z Persją, ale wraz z nastaniem Trajana w 114 roku n.e. rzymska kontrola nad kaukaską Albanią była niemal całkowita, a najwyższe warstwy społeczne zostały w pełni zromanizowane.
Również książęta plemion kaukaskich, Albani, Iberów....lub poddani mu (przez Trajana).
Podczas panowania rzymskiego cesarza Hadriana (117-138) Albania została najechana przez Alanów, irańską grupę koczowniczą.
Inwazja ta przyczyniła się do zawarcia sojuszu między Rzymem a Albańczykami, który został wzmocniony za czasów Antoninusa Piusa w 140 r. n.e. Sassanidzi zajęli te tereny około 240 roku n.e., ale po kilku latach Imperium Rzymskie odzyskało kontrolę nad kaukaską Albanią.
W 297 roku n.e. traktat z Nisibis przewidywał ponowne ustanowienie rzymskiego protektoratu nad kaukaską Iberią i kaukaską Albanią. Jednak pięćdziesiąt lat później Rzym utracił te tereny, które od tego czasu przez ponad dwa stulecia pozostawały integralną częścią imperium sasanidzkiego.
Pod koniec VI wieku terytorium Albanii stało się ponownie areną wojen pomiędzy Persją Sassańską a Cesarstwem Bizantyjskim/Wschodniorzymskim. W czasie trzeciej wojny persko-tureckiej Chazarowie (Gokturkowie) najechali Albanię, a ich przywódca Ziebel ogłosił się panem Albanii w 627 r. pod rządami rzymskiego Herakliusza, nakładając podatek na kupców i rybaków z rzek Kura i Arakses, który był "zgodny z pomiarami gruntów królestwa Persji". Albańscy królowie utrzymali swoje panowanie płacąc daninę regionalnym mocarstwom.
Kaukaska Albania została później podbita przez Arabów w 643 r. n.e., podczas islamskiego podboju Persji.
