Skt. Ibs kirke blev efter al sandsynlighed oprindeligt opført som servicekirke for kristne handlende, der kom til det nye internationale handelscenter, som opstod ved havnen i Roskilde omkring 980.
Kirken er bygget af frådsten, eller kildekalk, der er en porøs kalksten. Før stenkirken blev bygget omkring år 1100, lå to trækirker på stedet.
Handelspladsen ophørte omkring år 1200, men kirken fortsatte som sognekirke og er den dag i dag et vidnesbyrd om den pulserende aktivitet, der (også) var i Roskilde i middelalderen.
Gennem tiden er Skt. Ibs kirke blevet ombygget med hvælvinger og tårn, som alle andre danske kirker, samt med gotiske spidsbuede vinduer.
Den har været udsat og voldsomt truet undervejs, men er overlevet:
Skt. Ibs kirke stod og forfaldt i årene derefter, men i 1924 lykkedes det Historisk Forening for Roskilde Amt at rejse finansiering til at sætte kirken i stand. Kirken blev ført tilbage til romansk byggeskik, så den igen fremstod som en kirke fra omkring år 1200. Den fik bjælkeloft igen, små rundbuede vinduer højt oppe, og hvælvene blev fjernet. De gamle romanske kalkmalerier, der i sin tid var blevet skjult bag kalkning og af hvælvingerne, kom også til syne i forbindelse med reetableringen af kirken. Der er ikke blevet sat bænke ind i kirken, for sådan nogen var der ikke i romansk tid.
Indgangen til Skt. Ibs kirke er i dag den oprindelige kvindedør fra nordsiden. Dengang måtte kvinder kun være i den nordlige side af kirken, og havde derfor deres egen indgang.