Počátky benediktinského kláštera v Rajhradě jsou zahaleny v tmách způsobených nedostatkem pramenů, jimiž jen slabě prosvítají některé, navíc ne zcela přesné informace. Pojďme na ně pohlédnout.
Na jejich základě lze soudit, že zakladatelem této církevní instituce byl v polovině 11. století český kníže Břetislav I. Měla vzniknout nikoliv jako samostatný klášter, ale jako probošství. A to buď v návaznosti na starší cellu sv. Petra a Pavla (navazující pravděpodobně na velkomoravskou tradici) nebo kolegiátní kapitulu, kterou měl Břetislav právě zde založit. Členové kolegiátní kapituly jsou kněží žijící při významném kostele, kteří ale nežijí jako mniši ani např. nemají společný majetek. (Např. dodnes existující kolegiátní kapitula ve Staré Boleslavi, kterou založil právě Břetislav I.) Důležitým faktorem v této době byl vliv břevnovského kláštera, který právě s podporou Břetislava prožíval příznivé období. Postupem času si břevnovský klášter začal na Rajhrad činit faktické nároky jako na svou pobočku a o své nadřízené postavení se svářet s olomouckými biskupy. Spor rozsoudil na konci 13. století papež Bonifác VIII. ve prospěch Břevnova. Rajhrad se tak stal oficiálně břevnovským proboštstvím, a v tomto postavení setrval až do roku 1813.
Rajhradu patří primát v tom, že se stal v době přemyslovského státu nejstarší doloženou církevní institucí na Moravě. Ve středověku patřil k významným duchovním a kulturním centrům Moravy; důležité bylo i jeho postavení jako pozemkové vrchnosti obdařené četnými zeměpanskými privilegii. Bohatství kláštera se však také stalo cílem některých vpádů, které Rajhrad postihly, například v roce 1241 šlo o napadení Tatary, roku 1253 o uhersko-kumánský útok.
Na rozdíl od většiny českých klášterů nebyl Rajhrad za husitských válek dobyt a mohl tak sloužit jako útočiště, kam se uchylovali mniši z jiných benediktinských opatství. V době válečné vřavy v Rajhradě žili řeholníci z mateřského Břevnova a také z východočeského benediktinského kláštera Vilémov.
V průběhu 16. století se postavení kláštera zhoršilo a proboštství postihla vleklá krize. Klášterní budovy ve 40. a 70. letech vyhořely, počet mnichů se snížil na minimum. Roku 1619 byl klášter moravskými stavy zrušen a jeho statky prodány. O rok později se však benediktini do Rajhradu vrátili, avšak doba zůstávala i nadále pro řeholníky nepříznivá. Během třicetileté války byl klášter opakovaně zpustošen vojsky, další těžkou ránu objektu zasadil vpád Tatarů v roce 1663.
Změna k lepšímu nastala až na konci 17. století s postupující rekatolizací. Klášterní hospodářství se stabilizovalo, vzrostl počet mnichů a rajhradští probošti znovu získali významné postavení ve společnosti. Již od roku 1540 zasedali rajhradští probošti v moravském zemském sněmu, nyní však jejich prestiž významným způsobem vzrostla. Roku 1687 povolil papež představeným Rajhradu právo pontifikálií, tj. právo nosit mitru, kříž, prsten a berlu. V důsledku všech těchto změn se zvýšenou měrou začala objevovat snaha o to, aby se klášter osamostatnil a zbavil se závislosti na Břevnovu.
Zlepšené podmínky umožnily také opravu a přestavbu klášterního areálu, který byl dlouhodobě ve špatném stavu. První práce proběhly již v závěru 17. století, k zásadní barokní proměně areálu došlo pak za probošta Antonína Pirma (1709-1744). Výstavba proběhla podle plánů Jana Santiniho-Aichla, jenž navrhl jak nový barokní chrám, tak také budovy konventu a prelaturu. Stavba chrámu byla hotova roku 1730 a o devět let později po dokončení vnitřní úprav vysvěcena. Roku 1742 Rajhrad byl Rajhrad vydrancován Prusy, což výstavbu na nějaký čas zastavilo. I když se ve stavebních pracích pokračovalo až do počátku 19. století, celý Santiniho projekt nebyl nikdy v plném rozsahu dokončen. Barokní přestavbě ustoupil celý středověký klášter, z něhož se nedochovaly žádné pozůstatky.
Roku 1813 se podařilo rajhradským benediktinům získat nezávislost na břevnovském klášteře. Tím i po formální stránce dosáhli samostatnosti, kterou již dříve projevovali v mnoha oborech své činnosti. Následné 19. století přineslo Rajhradu mimořádný rozvoj zejména v oblasti v intelektuální a kulturní.
Již od druhé poloviny 18. století se rajhradský klášter těšil pověsti významného centra vzdělanosti. Byl jedním z ohnisek rozvíjejícího se osvíceneckého dějepisectví; v 19. století zde mimo jiných působil i významný historik Beda Dudík. Hlubokou tradici má zdejší knihovna s 65 000 svazky, jejíž fond vznikal postupně již od středověku. Od počátku 18. století se v Rajhradě začaly shromažďovat i další sbírky, jak umělecké, tak i vědecké. Vznikla zde jak rozsáhlá obrazárna, tak také muzeum s přírodovědeckými a etnologickými sbírkami, jež benediktini dostali od známého cestovatele Emila Holuba. V 19. století klášter založil i vlastní vydavatelství.
Ne ve všem se však klášteru dařilo dobře. Na konci 19. věku se dostal do ekonomických problémů, které se ještě dále prohloubily po vzniku Československa, v souvislosti s pozemkovou reformou, kvůli níž benediktini přišli o část svého majetku. Zcela zásadní změny přinesl nástup komunismu na konci čtyřicátých let, neboť v roce 1950 byl klášter zrušen, mniši vyhnáni a budovy, až na vybrané prostory kvadratury a kostela, předány Československé armádě.
V 90. letech 20. století se do Rajhradu vrátili benediktini a řeholní život zde byl obnoven. Od roku 2005 sídlí v klášteře Památník písemnictví na Moravě (pobočka Muzea Brněnska), který spravuje historickou knihovnu. Od 90. let probíhá postupná rekonstrukce zdevastovaného areálu. Obnovy se dočkal kostela většina konventních budov, v roce 2012 bylo opraveno jižní křídlo prelatury, které dnes slouží jako výstavní prostory. Západní křídla prelatury a kvadratury dosud čekají na svou rekonstrukci.