Man formoder, at den oprindelige Katedralskole blev grundlagt i 1020, da Knud den Store oprettede bispedømmet i Roskilde. Skolen omtales tidligst i Roskilde-krøniken, som eksisterede omkring 1080. Den først kendte skoleleder var Arnfast, som Saxo omtaler i ca. 1150. Skolen havde oprindelig til huse i det kloster, som lå nord for og i forbindelse med den tidligere domkirke.
Da klosteret blev revet ned omkring 1200, fik skolen sin egen bygning, der udgjorde en del af muren omkring domkirken. Her stod den, indtil den blev revet ned i 1845. I 1253 omtaler et gavebrev ”skolarerne”, altså eleverne, der skal bespises af Helligåndshuset, som her i byen var repræsenteret ved Duebrødreordenen, som vi også kender fra Duebrødre Hospital ved Fondens Bro på Stændertorvet.
I 1842 blev den nye bygning indviet. Denne bygning findes endnu i fronten af det nuværende Roskilde Gymnasium, der vender ud mod Domkirkepladsen. Nu fik Katedralskolen plads til otte lærere og 60 elever, som på den tid udelukkende var drenge. Selv om biskoppen i sin åbningstale tildelte det kvindelige køn en del opmærksomhed for dets dyder, fik pigerne først adgang til skolen i 1903.
Det stigende antal gymnasieelever gav pladsmangel, og da skolen ikke kunne udvide nok på den nuværende plads, valgte man i 1969 at flytte Katedralskolen ud til Holbækvej ved Hyrdehøj.
I første omgang oprettede man Roskilde Kommunale Gymnasium og HF-kursus i de nu tomme bygninger.
I 1973 overtog Københavns Amt bygningerne og oprettede et amtsgymnasium, som altså eksisterer den dag i dag. Ved amternes nedlæggelse i 2007 fik gymnasiet selveje under staten med navnet Roskilde Gymnasium.