Будущий патриарх родился около 1530 года в семье донских казаков и в миру носил имя Ермолай. Служение Церкви он начал в Казани простым приходским священником при гостинодворском храме во имя святителя Николая. Современники отзывались о нём как о человеке книжном, премудром и чистой жизни.

В 1579 году, будучи ещё пресвитером, он стал свидетелем чудесного явления Казанской иконы Божией Матери: ему первому довелось поднять образ с земли, показать народу и с крестным ходом перенести в ближнюю Никольскую церковь. Литературное дарование у него было незаурядное — он сам составил службу иконе и сказание о её явлении и об исцелениях; ему принадлежит и тропарь «Заступнице Усердная».

Вскоре он принял постриг с именем Ермоген, был архимандритом казанского Спасо-Преображенского монастыря, а 23 мая 1589 года стал первым митрополитом Казанским. Здесь он вёл широкую просветительскую работу: в 1591 году несколько дней подряд собирал новокрещёных в кафедральный собор и наставлял их в вере. В 1592 году он попросил патриарха Иова установить особый день поминовения воинов, павших под Казанью, — и такой день был назначен. В 1595 году при его деятельном участии были обретены мощи казанских чудотворцев, святителей Гурия и Варсонофия; их жития он тоже написал сам.

13 июля 1606 года собор святителей возвёл его на патриарший престол в московском Успенском соборе. Патриаршество пришлось на Смутное время. Когда самозванец подошёл к Москве и стал в Тушине, патриарх направил изменникам два послания, зовущих одуматься. В голод он велел келарю Сергиевой обители открыть для людей монастырские житницы. Его грамоты поддержали защитников Троице-Сергиевой Лавры, выдержавших шестнадцатимесячную осаду, и убеждали народ, что Лжедимитрий — самозванец.

Когда бояре потребовали написать грамоту с призывом положиться на волю польского короля Сигизмунда, патриарх отказался наотрез и пригрозил анафемой. Он служил молебны о том, чтобы царя избрали из русского рода, и открыто звал людей на защиту Родины; по его благословению из Казани принесли список Казанской иконы, ставший главной святыней ополчения. Тогда его силой свели с престола и заключили под стражу в Чудовом монастыре. Осаждённые в Кремле не раз присылали к нему с требованием отвести ополчение и с угрозой смертной казни — он отвечал, что боится одного Бога, и уже из заточения обратился к народу с последним посланием.

Под стражей патриарх пробыл более девяти месяцев и 27 февраля 1612 года принял мученическую кончину: его уморили голодом и жаждой. Известие о его гибели ещё сильнее сплотило ополченцев, и 6 ноября 1612 года сопротивление в Кремле было сломлено. Тело погребли в Чудовом монастыре, а в 1652 году, при вскрытии раки, обнаружили нетленным и перенесли в Успенский собор Кремля.

Три столетия память о патриархе-заступнике передавалась из поколения в поколение. Торжественное прославление совершилось в 1913 году, к трёхсотлетию со дня кончины. Память — 2 марта и 25 мая.