Per Elst gazteluaren aurriak Duffel da eraikin zaharrenetako bat Anberes probintzian.Lokalean bezala ezagutzen Kasteel Ter Elst,datza on bat uhartetxo bat parke publiko herrian Duffel.Zaharrena erreferentzia datak 12an mendean. Garai hartan gaztelua izan zen jabetzako anaiak Hildincshusen. Batetik 1356 frantziako Iraultza arte 1789an gaztelua izan zen jabetzako Tongerlo Abadia, eta ez zen bizi, steward. Gainera, izan zen gisa erabiltzen egoitza noblezia. 1584an gaztelua erre behera, eta orduan izan zen berreraiki. 16an mendearen bukaeran izan zen vicarage. Arabera 17an eta 18an mendeko marrazkiak Elst gaztelua izan zen, eraikin handi bat inguratuta, lubanarro eta lorategiak. In 1799 gaztelua saldu zen Louis Hermans erakutsi eraisteko hiru lau nagusia eraikin konplexua da eta zaharberritu hegal parte dorreak. Lehen Mundu Gerran gaztelua izan zen, gaizki hondatuta.