M.Ö. 1900 yıllarında Ninova Melikesi (Kraliçesi) meşhur SEMİRAMİS - Şahmeryem tarafından kurulmuştur. Şehrin ortasındaki tepe o zamanlar insanlar tarafından yığılan topraklarla meydana gelmiştir.
Bugünkü Zile Kalesi'nin bodrum ve Şekerap Suyu'na inen gizli tünellerinin Mihridat tarafından yaptırıldığı söylenir.
Zile ve dolayları birçok Türk akınlarına uğramıştır. M.Ö. 420 senelerinde İran Şahı Erdeşir Şah II tarafından ele geçirilmiş ve bu mıntıkaya vâli olarak tayin ettikleri Aryomarzani ailesi uzun müddet buraları idaresinde tutmuştur.
Bu arada Makedonya Hükümdarı Büyük İSKENDER'in istilâsına uğrayan Zile Pontus Hükümdarı Mithridates III tarafından yıllarca müdafaa edilmiştir. Zile, Pontuslular ve Romalılar arasındaki harplere de sahne olmuştur.
Tarihte MİTHRİDATES Harpleri adını taşıyan ve üç defa tekerrür eden bu harplerde son olarak Romalı General Pompeius (M.Ö. 66 - 62)'de Zile ve dolaylarını bir Roma eyaleti haline getirip teşkilâtlandırmıştır.
Pontus Kralı Pharnakes I (M.Ö. 185 - 160) tarihlerinde Zile ve dolaylarını Romalılar'dan geri almıştır.
Roma İmparatoru Sezar tarafından Zile ve dolayları tekrar Roma topraklarına katılmıştır. Tarihte "Veni - Vidi - Vici" 'Geldim. Gördüm. Yendim.' sözleriyle meşhur mektubunu Zile Ovası'nda yaptığı muharebeyi kazandıktan sonra yazmıştır. Bugün Zile kalesinde yuvarlak bir taş üzerinde yazılı aynı kelimeleri görmek mümkündür.