1023 után Bakonybélen élt remeteként, elméleti-teológiai munkákat is írt. 1030-ban bízta meg őt I. István, hogy szervezze meg a csanádi püspökséget, többek között ő létesítette a Szent Györgyről elnevezett csanádi székesegyházat. Ezen kívül más templomok, monostorok alapítása és építése, iskolák létesítése, az egyháziak képzése és a pogány tömegek megkeresztelése is a nevéhez fűződik.

Gellért egyházszervező tevékenységét I. István is nagyra értékelte, s az 1030-as években gyakran találkozhattak és megvitathatták a tennivalókat. Gellért minden bizonnyal ott volt 1038-ban a király temetésén is, de aztán visszavonult Csanádra, s nem vett részt a hatalmi harcokban.
1046-ban azonban élére állt a második királyi időszakát töltő Orseolo Péter király elleni mozgalomnak, és más előkelőkkel együtt hazahívta a Kijevben száműzetésben élő Vazul-fiakat, András és Levente hercegeket. Időközben, 1046 nyár végén az országos elégedetlenség a békési Vata törzsfő vezetésével Kelet-Magyarországon pogánylázadásba torkollott. Mind az Árpád-házi hercegek - András és Levente -, mind a pogány felkelők a Dunához igyekeztek, hogy azon átkelve, a Dunántúlon is megdöntsék Péter király hatalmát.

A Székesfehérvárott tartózkodó Gellért püspök több püspöktársával együtt a pesti révhez indult Andrásék fogadására (Péter király nyugat felé menekült). A tömeghangulat láttán Gellért már útközben sejtette, hogy mi vár rá, és Diósd faluban – ahol az utolsó éjszakára megszállt – a társaival együtt felkészült a mártírhalálra. Így szólt társaihoz: „Atyámfiai és püspöktársaim és mind, ti jelenlevő hívek! Tudjátok meg, hogy ma a vértanúság koronájával a mi Urunk, Jézus Krisztushoz jutunk az örök boldogságra.”

A pesti rév budai oldalához érve, 1046. szeptember 24-én a zajongó tömeg Gellért szekerét megdobálta kővel. A „Képes Krónika” szerint a támadók Vata és az ördögtől megszállott cinkosai voltak: „Szent Gellért püspök mindszüntelen a kereszt jelét vetette azokra, akik kövezték; ennek láttára amazok még jobban feldühödtek, megtámadták őt, a Duna partján fölfordították kocsiját, talyigára tették, és lebocsátották Kelenföld hegyéről. És minthogy ott még lélegzett, mellét lándzsával szúrták át, majd egy kövön szétzúzták az agyát. Krisztus dicsőséges mártírja így költözött át a világ bajoskodásaiból az örök boldogságra.”
Gellért püspök holttestét először egy pesti templomban, majd Csanádon, a Mária-monostorban temették el.

1083-ban I. László magyar király (később „Szent”-té avatták) pápai engedéllyel ünnepélyes körülmények között felemeltette Gellért püspök holttestét, és I. Istvánnal, Imre herceggel, valamint a zobori remetékkel, Andrással és Benedekkel együtt Gellért püspököt is szentté avatták.
Szent Gellért püspök a keresztény Magyarország első szentjei közé tartozik, múlhatatlan érdemei vannak a keresztény hit magyarországi megteremtésében és megszilárdításában.