Köyün eski adı Danzuttur.Danzut Rumcada yayla anlamındadır.Köyün üst kısmında kılıca benzeyen bir kaya vardır.Köy isimlerinin Türkçeleştirildiği yıllarda köyün adının Kılıçkaya olmasını teklif etmişlersede yetkililer oyuk yer anlamında oylum adını vermişler.

     Köyün tarihi kesin olarak bilinmiyor.Ancak buralarda Rumlarında yaşadığı anlaşılıyor.Köyün 600 yıllık bir tarihi geçmişi olduğu söylenir.

     Köyün ilk yerleşim yeri Devrani kalesi (Devrent) denilen yerde idi.Burada hâla yapı kalıntılarına rastlamak mümkündür.Köyün ikinci yerleşim yeri ise şimdiki köyün doğusundaki Deliklipınar semti idi.Üçüncü yerleşim yeri ise köyün güneyindeki Örenler denilen semtte idi.

     Oylumdere köyü Köse Bayburt karayolunun kuzeyinde engebeli bir arazi içerisindedir.Köyün kuzey yönünde kılıca benzer bir kaya vardır.Adına Kılıçkaya denir.Köyün çevresi derin yarıntılarla doludur.

     Soğuk suları ve su kaynakları oldukça zengindir.Bu köyden böbrek taşlarına çok iyi geldiği bilinen şifalı su çıkmaktadır.Bu sudan yararlanmak için hergün köye çok sayıda insan gelmektedir.Köyün arazisi oldukça çıplaktır.Ormanlık alanı yok sayılabilir.Yaylası vardır.

     Köyün ulaşımı kolaydır.Bayburtla olan irtibatları fazladır.Doğusunda Salyazı kasabası,batısında Yaylım köyü,kuzeyinde Hur köyü,güneyinde ise Örenşar ve Bizgili köyü bulunur.