Bizans İmparatorlarından II. Teodosious (M.S. 408-450) zamanında Erzurum Ovası’nı doğudan gelen İran saldırılarından korumak amacıyla, Karin şehrine hakim bir tepe üzerinde bir kale inşa edilmiş olup, kale içindeki şehre de imparatorun adına izafeten “ Teodosiopolis” adı verilmiştir. Bugünkü Erzurum şehrinin yerinde kurulmuş olan Karin (sonradan Teodosiopolis ) ile Erzurum Ovası’nın batı bölümündeki Erzen şehri iki ayrı şehirdir.

     Bizans kaynaklarında Teodosipolis olarak geçen şehre, Araplar Kalikala adını vermişlerdir. Kalikala Arapça’da “Kali’nin ihsanı” anlamına gelmektedir. Arap tarihçilerden Belazuri (ölümü 892) ye göre, şehir bu adını kurucusundan almıştır. Bizans döneminde bölgeyi ele geçiren bir beyin karısı olan Kali, bir şehir yaptırmış ve şehre de Kalikala adını vermiştir. Araplar bu isim kendilerine göre Kalikala şehrinde kullanmışlardır. M.S.1048 ‘de Doğu Anadolu’yu fethetmek üzere Bizans topraklarına giren Selçuklu Türkleri , Yinal oğlu İbrahim Bey komutasında, ovanın batısında ki Erzen (Arze) i zaptetmişlerdir. Erzen’in bu kuşatmada bi harabe halini almasından sonra, geride kalanlar bugünkü Erzurum şehrinin bulunduğu yerdeki Kalikala’ya sığınmışlar ve şehre de Erzen adı vermişlerdir. Saldırılar sonucunda harap olmuş asıl Erzen şehrine ise Türkler , Kara Erzen demişlerdir. Bu isim zamanla halk dilinde Kara Arza, Kara Arz ve nihayet Karaz şeklinde söylene gelmiştir.

     Erzurum’la ilgili muhtelif tarihi metinlerde, kitabelerde ve basılan paralarda Erzi-i Rum, Erzen-ir Rum , Arz-ı Rum isimleri kullanılmıştır. Erzurum adı bu isimlerin halk dilinde kullanılmasına göre şekil almış ve günümüze kadar gelmiştir.