Her yörenin bir manevi büyüğü vardır.Karabük'ün manevi kurucusu ve sahibi de Bahattin Gazi Hazretleri kabul edilir.Bahattin Gazi Hazretleri Horosan'dan Karabük'e gelen bir Allah dostudur.
Rivayete göre Karabük 13 haneli bir köy iken Karabük Köyü Mahallesine yerleşmiş ve burada çobanlık yapmaya başlamıştir.Onun kerametini ortaya çıkartan iki olay ise Karabük Köyü'ne yaptırdığı cami ve Kayabaşı Köprüsü inşaasıdır.Bu büyük Allah dostu köprünün mimarı ve ustasıdır.Köprünün ayaklarını bizzat taştan kendisi örer ve Horosan Harci ile bağlar.Köprünün tahtalarını ise dövme demir ile tutturur.Bu çalışmaları yaparken en fazla dikkat çeken olay ise gerekli olan keresteyi geyiklere taşıtmasıdır.Bu nedenle kendisine "Geyikli Baba" denir.Onun bu işleri nasıl yaptığını merak eden köylüler gece-gündüz demeden onu takip ederler ve ağaçları geyikleri taşıttığını görürler.Kerametin ortaya çıkmasıyla halkın teveccühünün arttığını gören bu büyük Allah dostu ahirete hicret etmeye karar verir.
Vefatından bir kaç gün önce evden çıkar ve hanımına; "Şayet üç gün içerisinde eve dönmez isem,danamı peşimden salıverin,o beni bulur" diyerek evden ayrılır.Nihayetinde de öyle olur,bu mübarek zatın naaşı Karabük'e 28 km uzaklıkta ki Dede Yaylası'nda bulunur ve oraya defnedilir.Türbesi ziyarete açıktır.Ayrıca Bahattin Gazi Vakfı ve Karabük Belediyesi işbirliğinde her yıl "Bahattin Gazi Anma Günleri" düzenlenir