Köy içerisindeki tepe üzerinde yer alan, kesme taşlardan yapılmış üç katlı anıtsal yapının bir manastır ya da saray kalıntısı olduğu tahmin ediliyor. Yöreye birkaç kez arkeologların geldiği ancak ondan sonra ilgilenin olmadığı öğrenildi. Bu yapının doğu cephesinin kuzey kesimindeki yuvarlak kemerli kapının, kemer silmeleri M.S. 435'e tarihlenen Urfa'daki Aziz Stefanos Kilisesi'nin Karanlık Sokak'a açılan avlu kapısı ile büyük benzerlik gösteriyor. Ayrıca Senem Mağara'daki bu kapının içerisinde bulunan ikinci kapının lentosu ortasındaki akantus yapraklı dairesel rozet, yine Aziz Stefanos Kilisesi'nin Yıldız Meydanı'na açılan avlu kapısı lentosundaki rozet ile üslûp benzerliğine göstermesi dikkat çekiyor. Bütün bunlara dayanarak Senem Mağara yapılarının V. yüzyıl başlarına ait olduğu düşünülüyor.

Kuzeyinde, kayalara oyulmuş kiliseler yer alırken bu kiliselerden birinin kayadan oyulmuş saçağına (sundurma) V. yüzyıl Bizans Sanatı özelliklerini yansıtan haç motifleri, antrolac'lar (düğümler), hayat ağacı motifleri, baklava dilimleri, bir vazodan çıkan üzüm salkımlı asma dalları ve simetrik kuş motifleri işlenmiş.Üç katlı anıtsal yapı ile kaya kilise arasındaki kayalık zeminde, tahrip edilmiş kaya mezarları dikkat çekiyor.