Die Legende berichtet folgende Gründungsgeschichte: Abt Otker vom Benediktinerkloster St. Lambrecht sandte im Jahre 1157 einen Mönch namens Magnus in die Mariazeller Gegend, die zum Besitz des Klosters gehörte. Jener Mönch sollte die Seelsorge der dort lebenden Menschen übernehmen. Mit Erlaubnis des Abtes durfte er seine aus Lindenholz geschnitzte Marienstatue auf die weite Reise mitnehmen. Am Abend des 21. Dezember versperrte ihm nahe des Zieles ein Felsblock den Weg. Magnus wandte sich Hilfe suchend an die Muttergottes, worauf sich der Felsen spaltete und den Weg freigab. Am Ziel angekommen, stellte der Mönch die Statue auf einen Baumstrunk und begann eine "Zelle" zu bauen, die als Kapelle und gleichzeitig als Unterkunft für ihn selbst diente. Maria in der Zelle gab dem Ort seinen Namen. Die Marienstatue wurde zum berühmten Gnadenbild, das noch heute als Magna Mater Austriae, als große Mutter Österreichs, verehrt wird.

Die ersten prominenten Pilger waren Markgraf Heinrich von Mähren und seine Gattin, die sich auf eine Weisung des hl. Wenzel hin auf den Weg nach Mariazell machten und von einer schweren Gichterkrankung geheilt wurden. Als Dank für diese Heilung ließ der Markgraf im Jahre 1200 rund um die Zelle eine romanische Kapelle errichten.

Der Bau der gotischen Kirche steht in engem Zusammenhang mit König Ludwig I. von Ungarn. Er besiegte 1365 im Namen der Gottesmutter ein zahlenmäßig überlegenes feindliches Reiterheer und stiftete das wertvolle Madonnenbild, welches noch heute am Altar der Schatzkammer vor allem von ungarischen Gläubigen verehrt wird. Vom gotischen Bau sind noch der Mittelturm und das barock umgestaltete Langhaus erhalten.

Der nach der Gegenreformation wieder erstarkte Katholizismus und die barocke Volksfrömmigkeit bewirkten im 17. Jahrhundert einen stärkeren Wallfahrerzustrom. Abt Benedikt Pierin von St. Lambrecht beauftragte daher mit Unterstützung Kaiser Ferdinands III. den Um- und Neubau der alten Kirche nach Plänen des St. Lambrechter Stiftsbaumeisters Domenico Sciassia.

  

Der barocke Erweiterungsbau entstand ab 1644 innerhalb von ca. 50 Jahren unter den Äbten Benedikt Pierin und Franz von Kaltenhausen. Die vier freien Pfeilerpaare der gotischen Hallenkirche mit ihren fünf Jochen wurden ummantelt und die Gewölbe mit Stuckaturen und Malereien geschmückt. An das ursprüngliche dreischiffige Langhaus wurden je fünf Seitenkapellen mit darüber liegenden Emporen zwischen den Strebepfeilern angefügt und die Wände durchbrochen.

  

Durch die großen Fenster auf den Emporen erzielte Sciassia den für die Wirkung des Innenraumes so entscheidenden Lichteinfall. Der gotische Chor im Osten musste 1654 vollständig abgebrochen werden, um Platz für die barocke Raumfolge zu schaffen. Das Langhaus wird durch eine Flachkuppel mit angrenzenden Nebenschiffen und Kapellen fortgesetzt. An die dynamische längsovale Kuppel fügen sich die beiden Sakristeien, Nebenräume und das Presbyteriurn in meisterhafter Weise an. Durch das Vortreten der Sakristeibauten erhält die Kirche einen kreuzförmigen Grundriss. Der Chor ist etwas schmäler als das Mittelschiff und rechteckig, wodurch der Bau einen flachen Abschluss erhält. Durch die Fortsetzung des Langhauses nach Osten erzielte Sciassia einen großzügigen Raum, der die Wallfahrergruppen aufnehmen konnte. Stuckaturen und Fresken verbinden alle Raumteile und verunklären die ursprüngliche Raumwirkung der gotischen Halle mit den birnstabprofilierten Rippen des Kreuzgewölbes. Die gotische Halle ist 42 m lang, 20 m breit und 19 m hoch. Die Gesamtlänge der Kirche beträgt 84 m, die Breite 30 m.

  

Domenico Sciassia starb 1679 in Mariazell, vier Jahre vor der Vollendung seines Werkes. Er wurde in der Gruft im südlichen Seitenschiff beigesetzt. Mit der Konsekration des Hochaltars durch Abt Franz von Kaltenhausen von St. Lambrecht erfolgte am 31. August 1704 der Abschluss der barocken Umgestaltung der Basilika.

  

Ein schwerer Schlag für Mariazell war die Aufhebung des Mutterklosters St. Lambrecht in den Jahren 1786 bis 1802. Mariazell blieb auch nicht von staatlich verordneten Silberablieferungen, wie zum Beispiel zur Finanzierung der Franzosenkriege um 1800, verschont. Zahlreiche Kunstschätze mussten eingeschmolzen werden. Im Ersten Weltkrieg war man sogar zur Ablieferung des Kupferdaches gezwungen.

  

Beim großen Brand von 1827 wurden Dach und Turmhelme völlig zerstört, auch die Glocken schmolzen. Das Innere der Kirche blieb jedoch größtenteils verschont. Zur Behebung der Schäden trug die ganze Monarchie bei. Im Jahr 1907 wurde die Kirche zur Basilika minor erhoben, die päpstliche Krönung der Gnadenstatue erfolgte 1908 durch den Nuntius. Die Wallfahrt nach Mariazell lebt ungebrochen weiter. Mariazell ist auch heute einer der größten Wallfahrtsorte Mitteleuropas.

  

Zum 850-Jahr-Jubiläum werden 2007 die umfangreichen Renovierungsarbeiten abgeschlossen, die rund 15 Jahre gedauert haben und durch die Hilfe tausender Spender und großzügiger Donatoren ermöglicht wurden.