Στη βάση του Capital Hill, σε μικρή απόσταση με τα πόδια από το σημερινό κοινοβούλιο, βρίσκεται το Παλιό Κοινοβούλιο, το οποίο τώρα φιλοξενεί το Μουσείο της αυστραλιανής Δημοκρατίας. Εδώ μπορείτε να γνωρίσετε τους πρώην πρωθυπουργούς της Αυστραλίας, να καθίσετε στο γραφείο του παλιού Πρωθυπουργού, να επισκεφθείτε την αίθουσα Τύπου και να ρίξετε μια ματιά σε πολύ σημαντικά ιστορικά έγγραφα. Το Παλιό Κοινοβούλιο ήταν η έδρα του Αυστραλιανού Κοινοβουλίου από το 1927 έως το 1988 μετά τη μετεγκατάσταση της πρωτεύουσας από τη Μελβούρνη στην Καμπέρα. Μετά το 1988 η έδρα του Κοινοβουλίου μεταφέρθηκε στη νέα δομή στο Capital Hill και από τότε στο Παλιό Κοινοβούλιο, στεγάζει το Μουσείο της Αυστραλιανής Δημοκρατίας για την ιστορία της πολιτικής της ηπείρου. Σχεδιασμένο από τον John Smith Murdoch, το κτίριο από την αρχή σχεδιάστηκε για να στεγάσει την κυβέρνηση για έως και 50 χρόνια, ενώ περίμενε να χτίσει μια πιο κατάλληλη δομή. Ανάγκη που εκδηλώθηκε ήδη από τη δεκαετία του ' 70, όταν οι ανάγκες της κυβέρνησης ξεπέρασαν την ικανότητα στέγασης της δομής που,μεταξύ άλλων, χρειάστηκε επίσης αναδιάρθρωση και ανακαίνιση. Το παλιό σπίτι του Κοινοβουλίου έχει απλοποιημένο κλασικό στυλ με μερικά νεοκλασικά αρχιτεκτονικά στοιχεία και βυθίζεται στο πράσινο των γύρω κήπων.