Mardin ilinde tarihin çok eski dönemine uzanan dönemlere ait bulgular yer almaktadır.*Artuklu Üniversitesi*yerleşkesi içindeki Hırbe Helale yerleşim yerinde yapılan kazılarda ortaya çıkarılan taşlar,*Paleolitik Çağ'a tarihlenmiştir.[4]Dargeçit*İlçesi Ilısu civarında yer alan Boncuklu Tarla yerleşiminde*Cilalı Taş Devrine*ait buluntulara rastlanılmıştır. Gene Derik ilçesindeki Kerküşti Höyük’te yapılan kazılar sonucu*Kalkolitik Çağ*dönemine ait kalıntılar bulunmuştur. Kemaliye höyük ve Tilki tepe Höyüklerinde de Kalkolitik Çağ dönemi seramiklere rastlanmıştır.*Nusaybin*ilçesindeki Girnavaz Höyük'te*Erken Tunç Çağı'na tarihlenen kalıntılara rastlanmıştır. Bunun yanı sıra ildeki 36 höyükte*Tunç Çağı' nın çeşitli dönemlerine tarihlenen buluntulara rastlanılmıştır. Mardin-Nusaybin yolu üzerindeki Gırharrin Höyük, Mardin Dağlarının güneyindeki Girnavaz ve Yukarı Dicle havzasındaki Giricano, Kavusan Höyük, Siirt Türbe Höyük, Üçtepe, Ziyarettepe ve Gre Dimse höyüklerinde de bu çağa ait bulgular görülmektedir.


Mardin adı ilk defa 4. yüzyıl Roma tarihçilerinden Ammianus Marcellinus tarafından bahsedilmiştir.*I. Justinianus*dönemi tarihçisi*Prokopius, şehirden Margdis adıyla ikinci derece önemde bir kale olarak bahsetmiştir. Kale, 640 yılında İyâz bin Ganm komutasındaki İslam ordularınca ele geçirildi. Bu dönemde bölgeye yoğun bir Arap nüfusu yerleşimi başladı.*Emevî*ve*Abbâsî*döneminde El Cezire valiliğinin toprakları içerisinde yer aldı. 750-751 yıllarında Mardin’e hâkim olan*Hariciler’in Harûriyye koluna mensup Benî Rebîa kabilesi reisi Büreyke'nin isyanına sahne oldu. Mardin kalesi,*Hamdani*hanedanlığının kurucusu Hamdân bin Hamdûn tarafından 885 yılında ele geçirildi. Abbasi Halifesi*Mutezid*tarafından 894 yılında geri alındı. Daha sonra yeniden*Hamdani*egemenliğine giren bölge, 10. yüzyılın sonundan 11. yüzyıl sonlarına kadar*Mervaniler*ile*Ukayliler*arasında sıklıkla el değiştirdi.