Dédiée à la Sainte Vierge - "Notre Dame" - la petite chapelle d'origine fut d'abord exploitée par les Jésuites. Puis vinrent les Pères sulpiciens qui, en 1657, entreprirent la construction d'une plus grande église. Le sulpicien François Dollier de Casson en fut l'architecte, et l'actuelle rue Notre-Dame servit de site d'origine. Sa construction, de style baroque, fut achevée entre 1672 et 1683. En 1800, l'église de Dollier était devenue trop petite, et la Fabrique a décidé de construire l'église que nous connaissons aujourd'hui. Pour concevoir la nouvelle église, le conseil de la Fabrique fait appel aux services de l'architecte new-yorkais James O'Donnell, lui-même protestant irlandais d'origine. O'Donnell et la Fabrique optent pour le style néo-gothique alors en vogue en Angleterre et aux États-Unis. Les principaux travaux de construction se déroulent entre 1824 et 1829. O'Donnell ne vit pas l'achèvement de son œuvre. Il meurt à Montréal en 1830. Juste avant sa mort, il s'était converti au catholicisme et a été enterré dans la crypte de la nouvelle église, où sa tombe est marquée par une plaque. L'ancienne église en retrait de la route est démolie à l'été 1830, à l'exception de son clocher, qui survit jusqu'en 1843, date à laquelle les tours jumelles de la basilique Notre-Dame sont achevées par l'architecte John Ostell. La tour ouest, surnommée La Persévérance et achevée en 1841, abrite la grande cloche baptisée "Jean-Baptiste", qui pèse 11 tonnes (11 000 kilogrammes ou 24 000 livres). La tour orientale, surnommée La Tempérance, est achevée en 1843 et abrite un carillon de 10 cloches. En 1889, le curé Léon-Alfred Sentenne confie aux architectes Perreault et Mesnard la construction d'une chapelle destinée à accueillir les cérémonies de petites assemblées, comme les mariages et les enterrements. Baptisée chapelle Notre-Dame du Sacré-Cœur et consacrée le 8 décembre 1891, date de la fête de l'Immaculée Conception, elle est construite dans le style néo-gothique avec de nombreux motifs sculptés. Malheureusement, un incendie a gravement endommagé la chapelle le 7 décembre 1978. La reconstruction a été entreprise par le cabinet d'architectes Jodin, Lamarre, Pratte et associés, dont le plan proposait de reconstruire les deux premiers niveaux à l'identique de la chapelle d'origine, avec des charpentiers, des sculpteurs et des menuisiers qualifiés utilisant des méthodes traditionnelles. La voûte a été construite dans un style moderne permettant un éclairage naturel. La nouvelle chapelle a été inaugurée en 1982. Du point de vue stylistique, l'aspect de l'église à l'intérieur dans ses premières années était très différent de son apparence actuelle. Le mur à l'extrémité du sanctuaire était plat et éclairé par une grande fenêtre, à la manière traditionnelle des églises gothiques anglaises. Six tableaux provenant de l'ancienne église étaient accrochés sur ce mur. Par souci d'économie, le maître-autel de l'ancienne église est déplacé dans le nouveau sanctuaire. Cet autel se trouve aujourd'hui sur le mur ouest de la chapelle latérale dédiée à Sainte Marguerite d'Youville. Dans la nef, les colonnes ont été peintes pour donner une impression réaliste de marbre veiné. Cette œuvre a été exécutée par un artiste italien de New York, Angelo Pienovi. Entre 1870 et 1900, la deuxième phase de décoration de l'église est l'œuvre du curé Victor Rousselot et de Victor Bourgeau, l'architecte québécois le plus actif de l'époque. Lors d'un voyage en France, Rousselot avait été fortement impressionné par le style et le symbolisme de la Sainte-Chapelle de Paris, qu'il proposa comme source d'inspiration à Bourgeau. Les couleurs bleu et or choisies, les feuilles dorées dans les voûtes et sur les colonnes rappellent particulièrement la Sainte-Chapelle. Ce décor polychrome est entièrement constitué de bois sculpté.
