Rusiyanın işğalından sonra Azərbaycan dairələrə və əyalətlərə bölünmüşdü. 1840-cı ildə isə Qafqazın yerli idarəetmə sistemində əhəmiyyətli dəyişiklik edildi və Rusiyanın quberniyalarında olduğu kimi vilayətlər, qəzalar və bölgələr yaradıldı. 22 aprel 1840-cı il tarixdə, I Nikolayın fərmanı ilə təsdiq edilmiş “Zaqafqaziya diyarının bölünməsi haqqında əsasnamə”sinə uyğun olaraq, Cənubi Qafqazda Kaspi (Xəzər) vilayəti təşkil edilmişdir. Vilayətin inzibati mərkəzi Şamaxı şəhəri idi. 25 dekabr 1840-cı ildə Şamaxada Dövlət Şurasının üzvü, senator, Xüsusi Məsləhətçi Baron Pavel Qan təntənəli surətdə Kaspi (Xəzər) Vilayət İdarəsinin açılışını həyata keçirdi. Yeni islahat 01 yanvar 1841-ci il tarixdən qüvvəyə minmişdir. 1846-cı ilə qədər mövcud olmuş vilayət inzibati cəhətdən 7 qəzadan, Şamaxı, Qarabağ (Şuşa), Nuxa, Talış, Bakı, Quba və Dərbənd qəzalarından ibarət idi. 1846-cı ildə, Şamaxı quberniyasına daxil edilərkən Şəki qəzası Nuxa qəzası, Talış qəzası isə Lənkəran qəzası adlandırılmışdır.
Kaspi (Xəzər) vilayətnin idarəetmə orqanlarına Vilayət Rəisi, Vilayət İdarəsi, Xəzinə Palatası, Dövlət Əmlak Palatası, Cinayət və Mülki Məhkəmə Palatası, Prokurorluq daxil idi. Vilayətə 3 nəfər rəhbərlik etmişdir.
1841-1842-ci illər — polkovnik Aşeberq Nikolay Fyodoroviç, rəis vəzifəsini icra edib
1842-1844-cü illər — general mayor İvanov Appolon Alekseyeviç
1844-1846-cı illər polkovnik baron Vrangel Aleksandr Yevstafeviç, 1845-ci ildən general-mayor
Vilayətin gerbi 26 may 1843-cü il tarixdə təsdiq olundu. Gerbin təsvirində qızıl sahəsi olan qalxan dörd hissəyə bölünmüşdür. Yuxarıda sağda ayaqüstə dayanan pələng, solda torpaqdan çıxaraq alovlanan qaz, aşağıda sağda Xəzər dənizini anlamında mavi zolaq, solda isə qarlı zirvəsi olan dağlar silsiləsi təsvirləri verilmişdir. Qalxanın yuxarısında isə İmperator tacı olan qartalın qalxanı qanadları altına alması təsvir edilmişdir.
Vilayətin ömrü cəmi 6 il oldu. 14 dekabr 1846-cı ildə təsdiq edilmiş “Zaqafqaziya diyarının bölünməsi haqqında əsasnamə”yə uyğun olaraq, vilayət ləğv edildi və Qafazda Tiflis, Kutaisi, Şamaxı və Dərbənd quberniyaları yaradıldı.
Zardab rayonu 