Opatství založila na samém počátku 12. století údělná knížata, bratři Oldřich Brněnský a Litold Znojemský, synové Konráda I. Znojemského. Klášter vznikl „uprostřed třebečského lesa,“ v dosud jen málo osídlené krajině na pomezí obou údělů.
Od svých zakladatelů a jejich potomků postupně získal rozsáhlé statky v okolí Brna, Ivančic a Náměště, stejně jako území na jih od Třebíče. Mimořádně velké množství pozemkových darů, které klášter obdržel, odráželo skutečnost, že třebíčský klášter sloužil jako pohřebiště brněnsko-znojemské linie rodu Přemyslovců.
Na darovaných statcích vznikly v průběhu 12. a 13. století poboční domy kláštera, proboštství v Komárově u Brna, v Měříně a poté, co třebíčtí benediktini získali rozsáhlý pozemkový majetek na severní Moravě, také v Březové nedaleko Hradce nad Moravicí. Jiným významným počinem kláštera se stalo založení města Třebíče, k němuž došlo v 70. letech 13. věku.
Od samého počátku své existence klášter působil jako centrum vzdělanosti. Jeho kulturní vyspělost dokládá skutečnost, že zde již ve 12. století vznikaly jakési (nedochované) letopisy, o nichž se ví z citací v díle barokního historika Tomáše Pešiny z Čechorodu (Mars Moravicus).
Výstavba kláštera započala ihned po jeho vzniku. Podle ne zcela podložených zpráv měl být nejstarší kostelík vysvěcen již roku 1104 a další jen o několik let později, v roce 1109. Oba tyto prvotní kostely snad souvisely s klášterním provizoriem. Definitivní svatyně vznikla až o století později, v období od 20. letech do druhé poloviny 13. století. Chrámová stavba s rozsáhlou kryptou, chórovou částí s polygonálním závěrem s tzv. trpasličí galerií, bočními chórovými kaplemi a trojlodím fascinuje svou monumentalitou. Složitý a ve střední Evropě neobvyklý typ kleneb použitých v chórové části je výrazem naprosto mimořádných nároků na podobu celého díla inspirovaného porýnskými vzory. Lze předpokládat, že západní část kostela vypadala ve středověku jinak, než tomu je dnes, ale že obsahovala, obdobně jako například katedrála ve Wormsu, druhý kostelní chór. Není ani vyloučeno, že vstupní část kostela byla vybavena dvouvěžovým západním průčelím a dvoupatrovým westwerkem. Třebíčská bazilika představovala ve středověku zcela výjimečné architektonické dílo, a to jak v prostředí Moravy, tak i celých českých zemí. Její kvality jsou uznávány i mezinárodně, a proto byla zařazena na seznam památek UNESCO.
V roce 1423 podnikli husité pod vedením Jana Žižky, první, tehdy ještě neúspěšný pokus o dobytí kláštera. Útok, ke kterému došlo o rok později, již dosáhl svého cíle - opatství bylo dobyto a obsazeno. Tím však boje neskončily. Husity později vystřídala katolická strana, obléhání se opakovala a v klášteře se střídavě usazovaly posádky různých válčících stran. Tento stav trval nejen za husitských válek, ale i později v době vlády Jiřího z Poděbrad a Matyáše Korvína. To vše vedlo k hlubokému hospodářskému úpadku kláštera, který vyvrcholil, když Matyáš Korvín dal většinu klášterních statků do zástavy Zdeňkovi ze Šternberka. Na konci 15. století získal majetky třebíčských benediktinů Vilém z Pernštejna. Od Pernštejnů se zástava dostala v roce 1528 rodu Černohorských z Boskovic, kteří mnichy z kláštera definitivně vypudili. Někdejší klášter byl postupně upravován na šlechtické sídlo, zámek. V jeho držení se vystřídalo několik rodů, mezi nimi Valdštejnové, kterým areál patřil od 17. století až do roku 1945. Posledním majitelem se stal Emanuel, hrabě Waldstein-Watneberg, jemuž byl zámek po druhé světové válce konfiskován.
V současnosti se v areálu zámku nachází Muzeum Vysočiny Třebíč. V nedávné době (2011-2012) zde proběhla rekonstrukce, která mimo jiné také odkryla rozsáhlé části někdejší kvadratury z doby kolem poloviny 13. století a zapojila je do nové muzejní expozice.