Por Elst ruínas do castelo en Duffel é un dos edificios máis antigos da provincia de Amberes.Localmente coñecido como Kasteel Ter Elst,atópase nun illote en un parque público na vila de Duffel.A máis antiga referencia datas desde o século 12. Naquel tempo castelo foi propiedade dos irmáns Hildincshusen. Desde 1356 ata a Revolución francesa en 1789, o castelo foi propiedade do Tongerlo Abadía e foi habitada polo mordomo. Tamén foi usado como unha residencia para a nobreza. En 1584 o castelo queimados para abaixo e, a continuación, foi reconstruída. A finais do século 16 era unha casa parroquial. Segundo 17 e 18 do século debuxos Elst castelo foi un gran edificio rodeado por un foso e xardíns. En 1799 o castelo foi vendido para Louis Hermans mostrou demoler tres dos catro principais edificios do complexo e restaurado á parte con torres. Durante a Primeira Guerra Mundial, o castelo foi seriamente danado.