Elazığ’ın tarihi, tarihçiler tarafından devamı olduğu Harput şehir tarihi ile birlikte incelenmiştir. Bugünkü şehir merkezinden sadece 5 km uzaklıkta bulunan Harput, M.Ö yılına dayanan 4000 yıllık tarihiyle, Elazığ’ın ilk yerleşim bölgesi olarak kabul edilmektedir.
Anadolu’nun en eski yerleşme birimlerinden biri olan Harput ve yöresi, Fırat Irmağı’nın çizdiği büyük yay içinde sulak ve verimli bir ova üzerinde bulunması, doğal kaya sığınakları, kara ve su hayvanlarının bolluğu nedeniyle yöre, Paleolotik (Yontma Taş Devri M.Ö. 10.000) dönemden beri yerleşme alan olmuştur. Elazığ ve yöresinin yazılı tarihinin Hitit tabletlerindeki bilgilerle aydınlatıldığı görülmektedir. M.Ö. 2000'lerde yörenin İşuva adıyla anıldığı belirlenmiştir. İşuva, M.Ö. 1375-1335 I. Şuppiluliuma döneminde Hitit egemenliği altına girmişti. Bu tarihi bilgilerin yanı sıra, Elazığ yöresinde yapılan arkeolojik kazı çalışmalarında, Hititlerin yöredeki egemenliği bir kez daha ispatlanmış, daha önceleri, Hitit ülkesi sınırının doğuda Fırat Irmağı’nda son bulduğu tezi çürütülmüştür.
Tarihi kaynaklarda, Harput’a ilk yerleşenlerin “Hurriler” olduğu belirtilmiş ve Harput’un Asya-Anadolu-Trakya-Mısır bağlantılı ticaret yollarının tam üzerinde yer almasının her dönemde önemli bir yerleşim merkezi olmasına ve çeşitli uyarlıkların fetihlerine uğramasına neden olduğu belirtilmiştir.
M.Ö. 12-7.yy aralarında kökenleri Hurrilere dayanan Urartular egemenliği altında bulunan, daha sonra Asur ve İskit akınları sonrasında Urartu devleti zayıflayınca başta olmak üzere Med egemenliği altına giren yöreye; M.Ö 6.yy’da Persler, daha sonra da Roma İmparatorluğu gelerek hakimiyet kurmuştur. Roma İmparatorluğu dağıldıktan sonra Bizans egemenliği altında kalsa da bölge, 6.yy’a kadar Sasani ve Bizans arasında sık sık el değiştirmiştir. Hazreti Ömer döneminde (634-644) yöreye İslam ordularının önderliğini yapan Arap akınları başlamıştır. Önceleri Romalılar ile Partlar sonra da Bizanslılar ile Sasaniler arasındaki savaşlarda sınır durumunda olan Elazığ ve yöresi, 7. Yüzyılın ortalarından başlayarak, bu kez de Bizans ile Araplar arasındaki savaşlara sahne olmuştur.
1085’te Çubuk Bey tarafından fethedilen yörede, önce Artukoğullarının daha sonra 1234’de Anadolu Selçukluları’nın, 1243’te İlhanlılar’ın 1363’te Dulkadiroğulları’nın, 1465’te Akkoyunlular’ın hüküm sürdüklerini görüyoruz.
Harput, 1516’da Çaldıran Zaferi sonrası Yavuz Sultan Selim tarafından fethedilerek Osmanlı topraklarına katılmıştır. 19.yy sonlarına doğru değişen toplum yapısı ve buna bağlı olarak değişen şehircilik anlayışının getirdiği şartlarla Harput, 1834 yılından itibaren ovada yer alan ve o zamanki adı ile Avagat Mezrası olan bugünkü Elazığ’a taşınmaya başlamıştır. Önceleri eyalet ve bilahare vilayet merkezi olan ve bir dönem Diyarbakır Vilayetine bağlı bir sancak haline getirilen Elazığ; 1875'de müstakil mutasarrıflık, 1879'da tekrar vilayet olmuştur. Osmanlı İmparatorluğunun son yıllarında Malatya ve Dersim sancakları da buraya bağlanmış, 1921'de bu iki sancak Elazığ'dan ayrılmıştır.
İsimlendirilmesi hususunda ise yöre; Sultan Abdulaziz’in tahta çıkışının 5.yılında Hacı Ahmed İzzet Paşa devrinde buraya tayin edilen Vali İsmail Paşa’nın teklifi ile 1867 yılında “Mamurat-ül Aziz” ismini almış, ancak söylenmesi daha kolay olduğu için “Elaziz” olarak anılmaya başlamıştır.
Bölgeye ilk gelişinde 2.Ordu Karagahı’nda silah arkadaşları ile “Kurtuluş Savaşı”nı başlatma kararını burada almış olmasından ötürü Mustafa Kemal Atatürk, şehre “azığı bol il” anlamına gelen “Elazık” ismini uygun görmüştür. Bu isim daha sonra TBMM kararı ile “Elazığ” olarak onaylanıyor. Bu nedenle Elazığ, bir yandan Kurtuluş Savaşı fikrinin doğduğu, diğer yandan ismi doğrudan Atatürk tarafından konmuş bir şehir olma şerefini taşıyor.