Duffel Elst imorat xarobalari boshiga Antverpen viloyatida eng qadimgi binolar biridir.Mahalliy Kasteel Ter Elst sifatida tanilgan, bu Duffel qishlog'ida davlat bog'ida bir orolcha ustida yotadi.Eng qadimgi yozuvlar 12 - asrdan boshlab. O'sha paytda imorat aka-uka Hildincshusen qarashli edi. 1356-dan 1789-dagi frantsuz inqilobiga qadar qal'a Tongerlo Abbeyga qarashli va boshqaruvchi tomonidan yashagan. Bundan tashqari, zodagonlar uchun yashash joyi sifatida ishlatilgan. 1584da qal'a yonib ketdi va keyin qayta qurildi. Kech 16-asrda u vicarage edi. 17 ko'ra-va 18-asr qo'lga kiritdi Elst imorat handaq va bog'lar bilan o'ralgan katta bino bo'ldi. 1799 yilda qal'a Louis Hermans majmuasi to'rt asosiy binolar uch yiqitish ko'rsatdi sotildi va minoralar bilan qanot qismini qayta tiklandi. Birinchi Jahon urushi davrida qal'a yomon zarar ko'rgan.