Yn 1603, trwy ddylanwad Richard Lloyd, efrydydd yn y Coleg Seisnig yn Rhufain, cymododd Baker a chrefydd Eglwys Rhufain. Pan oedd ar ei ffordd adref digwyddodd gyfarfod â'r Tad William Watson a pharodd hyn i'r awdurdodau gredu fod a fynno ef rywbeth â'r ‘Bye Plot,’ ond ni chyhuddwyd mohono. Ymunodd (1605) â brawdoliaeth Fenedictaidd St. Justinian yn Padua, gan gymryd Augustine yn enw crefydd iddo'i hun. Yma dysgodd Eidaleg, a daeth i adnabod Cymro arall, Dr. Griffith, cyffeswr lleiandy ym Milan. Dychwelodd yn 1606 a llwyddodd i gael amryw o'i berthnasau a'i gymdogion i newid eu crefydd. Yn eu plith yr oedd ei chwaer, gwraig William Parry, Llanover (a oedd yn Gatholig); parhaodd hi'n gref yn y ffydd newydd pryd y bu i'w gŵr betruso llawer pan ddaeth erledigaeth. Daeth y tad drosodd hefyd — o dan ddylanwad Dr. Morgan Clynog, nai Morus Clynnog [q.v.]. Yn 1607 bu'n foddion i ail-ymgorffori aelodau urdd y Benedictiaid yn Lloegr trwy Dom Sigebert Buckley, gŵr y dywedir ei hanu o Fiwmares.

Ordeiniwyd Baker yn offeiriad yn Rheims yn 1613 a bu'n byw am gyfnod yn nhai rhai teuluoedd Seisnig a oedd yn Gatholig a chadw mewn cysylltiad a De Cymru. Bu iddo dalu am gynhaliaeth dau ŵr ifanc yn Douay, sef ei nai, a ymunodd â'r Iesiwitiaid yn ddiweddarach, a Philip Morgan (neu Powel), gŵr y bu'n dysgu'r gyfraith iddo o 1610 hyd 1614 ac a ferthyrwyd yn 1646. Bu hefyd yn cymeradwyo llawer o blant Catholigion i ysgol ramadeg y Fenni pan oedd honno o dan ofal Morgan Lewis, gŵr ei nith Margaret Prichard a thad David Lewis (neu Charles Baker, 1617-1679) [q.v.], y merthyr Catholig Cymreig diwethaf. Yn raddol, fodd bynnag, peidiodd Baker ag ymweled a hen gyfeillion, rhag tarfu arnynt, gan fyw mewn unigedd yn nhŷ ei chwaer Mrs. Henry Prichard pan âi adref a gadael y tŷ o bryd i bryd i roi cyngor cyfreithiol yn ddi-dâl i'w gyfeillion neu i'r tlodion. Tua diwedd ei oes gofynnwyd ei farn ar fater cael siarter newydd i'r fwrdeisdref, ond gwrthododd ymddangos gerbron y cyhoedd yn y mater. Talodd ei ymweliad olaf yn 1620 a dwyn gydag ef yn gydymaith Leander Prichard (nai, efallai) — ei gofiannydd wedi hynny. Treuliodd weddill ei oes yn Lloegr neu ar y Cyfandir — yn Douai a Cambrai; gw. y D.N.B., ii, 2-5, a chyfrolau'r Catholic Record Society am fanylion pellach.

Bu Baker f. 9 Awst 1641. Casglodd ddefnyddiau ar hanes urdd y Benedictiaid Seisnig a chawsai bob rhwyddineb i gael gweld y cofysgrifau; rhoddwyd trefn ar y defnyddiau hyn gan ei gyfaill John (Leander) Jones (1575-1636) [q.v.], ac y maent yn parhau i gael eu hystyried yn ffynhonnell o bwys. Gadawodd ar ei ôl draethodau anorffenedig ar hanes eglwysig a chyfraith Lloegr, ynghyd a gweithiau ar ddiwinyddiaeth a chyfriniaeth y mae gan aelodau ei urdd feddwl uchel ohonynt. Rhydd ei hunangofiant (a ysgrifennwyd yn 1637-8) inni ddarlun o ddyn o gymeriad syml, diffuant, a chariadus — dyn yn ymddiddori mewn canu a rhodianna yn y wlad a chanddo hefyd ddawn arbennig i drosglwyddo dysg grefyddol a moesol mewn Lladin cartrefol a rhigymau Saesneg (fe'u casglwyd yn 1636).

Dywed Dom. J. McCann amdano: ‘a striking, if not a unique, figure in the history of post-Reformation English Catholicism,’ a disgrifia W. Llewelyn Williams ef fel hyn: ‘the last Welsh Catholic who played a large part in the history of Catholicism in England.’