Op de huidige Parade is vanaf ongeveer het jaar 1210 een romaanse kerk in baksteen gebouwd. Deze kerk werd gewijd aan Johannes de Evangelist. De kerk viel in het begin van haar bestaan onder de parochie van de Sint Salvator te Orthen. De bouw van de Sint Jan was Romaans van origine en de stevige vierkante toren is daarvan overgebleven. Deze toren heeft men in 1240 hieraan toegevoegd. De onderste helft tot aan het deel van de dak opzet is van deze Romaanse kerk overgebleven. Omstreeks 1268 bouwde men ten noorden van deze toren een doopkapel, welke los en op zichzelf stond. Dit is het begin geweest van de tegenwoordig beroemde Mariakapel.

In het begin echter was daarin nog geen sprake van Mariaverering, het gebouwtje diende enkel tot doophuis. Ruim honderd jaar later pas, toen in 1381 bij het beeld van de Zoete Moeder wonderbare dingen gebeurden, heeft men in deze doopkapel aan het miraculeuze beeld van de Zoete Moeder een waardige plaats geschonken. Vanwege de toename van Mariavereerders is deze kapel in de laatste jaren van de veertiende eeuw een weinig naar het noorden uitgebouwd. Ook is zij, door vergroting, aan de bakstenen toren gevoegd.

De oude romaanse kerk was, wegens het groeiend aantal zielen binnen de oude veste ‘s-Hertogenbosch, veel te klein geworden. Daarom begon men in het jaar 1280 met een grote, geheel nieuwe, gothische kerk, welke in 1330 gedeeltelijk gereed kwam. Hieraan bleef men in de volgende jaren, bij tussenpozen, verder werken. Zo is in 1345 besloten, om de Sint Jan aanzienlijk hoger te maken. Van 1370 tot 1380 is men druk doende geweest met het afbouwen van de straalkapellen achter het hoogkoor. Aanvankelijk had men het plan om de oude vierkante toren weg te breken en daarvoor een gothische voorgevel in de plaats te stellen. Dit, in overeenstemming met de overige gothieke bouwstijl. Hiervan is echter nooit iets gekomen.