Secondo la tradizione, il 30 agosto 1452 durante una pestilenza, nelle vicinanze di un antico pilone votivo, la Madonna apparve a Vincenzo Bongianino, sordomuto, che immediatamente riacquistava l' udito e la parola. Gli avrebbe poi consegnato una lettera in cui chiedeva la costruzione di una chiesa in suo onore. La chiesa costruita da parte del Comune, con il contributo della popolazione, fu terminata nel 1599 poco distante dalla chiesa di S. Agostino.
In seguito all' occupazione francese e alla soppressione dell' ordine agostiniano, avvenuta nel 1797, l' allora Sindaco Bonanate decise il trasferimento della chiesa della Madonna delle Grazie in quella di S. Agostino.
Il vecchio Santuario di demolito nel 1817. Forse ne rimane a testimonianza del perimetro uno dei due piloni nei pressi delle scuole elementari.
Il monastero fu soppresso definitivamente nel 1839, ma ne rimane a testimonianza il bel pozzo nel Parco S. Agostino e il corridoio che collegava il monastero alla chiesa.
La chiesa di S. Agostino era in stile gotico costruita verso il 1300. Fu rimodernata all' inizio dell'800 per diventare Santuario in stile neoclassico inserendo nel coro il pilone votivo.
Il Santuario, tra le chiese più grandi della città, è considerato il simbolo religioso di Cavallermaggiore, come la Torre civica è il simbolo civile.
All' interno, in seguito ad un valido restauro, si può ammirare il famoso dipinto del pilone di autore ignoto, presumibilmente del 1393, raffigurante la Vergine.
Inoltre molte sono le opere presenti, tra cui:
quadro dell' Immacolata di Jean Claret;
affresco raffigurante "S. Gerolamo e S. Paolo eremita" (1581) di Giovanangelo Dolce.
Di proprietà del Comune, come Santuario è aperto tutti i giorni e vengono officiate regolarmente le funzioni religiose.