Roma döneminde Kapadokya eyaletinin bir kentini oluşturan Ereğli bugünkü Ulu cami çevresinde Herakleia kenti olarak kurulmuştur. İvriz çayı nedeniyle kent yığma  tepeler üzerindedir ve etrafı surlarla çevrilidir. 1994 yılında Ereğli merkezindeki eski belediye kurtarma kazısı sırasında Roma dönemine ait hamam bulunmuştur. Bu da bize gösteriyor ki modern kentin 6 metre altında büyük bir Roma kentine rastlamak mümkündür.

Bizans imparatoru Herakleios'un (M.S. 610-641) burada yaptığı büyük imarlardan dolayı adının benimsenerek kentin adını Herakleion olarak değiştirildiği görülmektedir. Herakleia sözcüğünün mitoloji tanrılarından Herakles ile bağlantısı olduğu söylense de kesinlik kazanmamıştır. Bu dönemde Ereğli daha korumalı duruma getirilmiştir. Bunun nedeni 707-713-803 yıllarında Arap akınlarının yoğunluğudur. Arap kaynakları kentten Hirakle, Hirakliye veya Irakliye olarak söz ederler. Bu akınlardan sonra tekrar Bizansların eline geçen Ereğli aziz olan “Kuyudaki Yahya” dan ötürü kutsal ve dini merkez konumuna girmiş ve piskoposluk merkezi haline getirilmiştir. Burada yaşayan halk  Arap akınlarından kendilerini korumak için Karacadağ üzerinde kayaları oyarak yer altı şehirleri yapmışlardır. Kapadokya bölgesinde ki yer altı şehri ile çağdaş olan Oymalı yer altı şehirlerini Anadolu’nun başka şehirlerinde bu kadar yoğun olarak görmek mümkün değildir.

Selçuklu tarafından ele geçirilen Ereğli haçlı seferleri sırasında çok zor günler geçirmiştir. İlk kez 1097 yılında Haçlı seferleri buradan geçmiş, bunu Akşehir-Konya-Ereğli yolunu izleyen ve güneye yönelen ikinci haçlı ordusu izlemiştir. Bu ordu Selçuklu Sultanı I. Kılıçarslan tarafından, 1107 de Ereğli ovasında yok edilmiştir. 1276 yılında Ereğli Karamanoğulları'nın egemenliği altına girmiştir. Anadolu birliğinin bozulması nedeniyle birkaç defa el değiştirmiştir. Özellikle Moğol hakanı Kehatu Han 1291 de kenti yağmalamış ve insanları öldürmüştür. 1398 de Karamanoğlu Alaeddin Beyin Yıldırım Beyazıd'a yenilmesiyle Ereğli Osmanlı topraklarına katılmıştır. II. Beyazıd (1448-1512), Yavuz Sultan Selim (1466-1520) ve Kanuni Sultan  (1495-1566) döneminde nufüs artmış yeni mahalleler, yeni dini ve sivil yapılar yapılmıştır. Ekonomik gelişmelerin yanı sıra zengin vakıflarda kurulmuştur. En önemli vakıf “Medine-i Münevvere vakfı” idi. Vakıf aşarı geniş bir cabi (tahsildar) tabakası tarafından toplanırdı. Daha sonra Dar-us Sade ağaları tarafından idare edilmeye başlandı. Bu durum II. Abdulhamit devrine kadar sürmüştür.

Ünlü seyyahımız Evliya Çelebi de Ereğliyi ziyaret etmiş ve kentten şöyle söz etmiştir. “Bir hakimi de Seriyat tarafında olup, üç yüz payesi ile şerif bir kazadır. Şehirde subaşı ve mirabı (su ağası) vardır. Su ağası olmazsa her gün kavga çıkar çünkü bu şehir Peygamber pınarı dibinde olup doğu ve batısı bağ, bahçe ekilidir.” Der.