A Gellérthegy lábánál a XII. század elején templomot építettek Boldogságos Szűz Mária tiszteletére, amely később a Szent Gellért nevet kapta, ugyanis a hagyomány szerint ezen a területen volt a vértanú püspök sírja. E templom feltételezett helye a mai Rudas Fürdő környékén volt. Valószínűleg innen származik az a románkori timpanontöredék, amely Tabáni Krisztus néven ismert, amit a jóval később épült Szent Katalinról elnevezett templom építésekor befalaztak a keleti falpillérébe. A dombormű másolata templom előcsarnokában ma is megtekinthető, az eredeti a Budapesti Történeti Múzeum tulajdona.
A török időkben a Tabán területén élénk építkezés folyt, melynek köszönhetően nem csak fürdők épültek, hanem dzsámik is, amelyek közül számunkra a legfontosabb Szokollu Musztafa (1566-tól kezdve tizenkét éven keresztül nagy építkező kedvvel rendelkező budai pasa volt) dzsámija. Ez az épület szolgált ugyanis később a Szent Katalin templom alapjául. 1686-ban a törököket hosszú harcok után sikerül elűzni. Az ostrom alatt a Tabán szinte minden épülete elpusztult, de a dzsámi megmaradt. 1686-ban katolikus hívők vették birtokba, és kápolnává alakították. 1697-ben a ferencesek egy iskolát építettek mellette. 1702-ben plébániát alapítottak, a kápolna köré pedig temető került. A többszöri átalakítás után a templom komolyabb építési fázisa 1728-ban kezdődött meg. A munkálatokat Obergruber Keresztély kőművesmester irányította. Ekkor került az addig négyzetalaprajzú szentélyhez a templomhajó. Az építkezés túlnyomó része 1736-ban befejeződött. Stadinger János 1725-ben épült orgonáját – átalakítás után – 1738-ban helyezték el, majd megjelent a szószék és a főoltár is. A berendezés és a felszerelések összegyűjtése csak 1748-ban ért véget. 1749-ben kripta épült a templom alá.