В миру его звали Михаилом Яковлевичем Глухарёвым. Родился он 8 ноября 1792 года в Вязьме Смоленской губернии, в семье соборного священника. Отец, окончивший полный курс семинарии, сам занимался с сыном и так подготовил его по латыни, что семилетний мальчик уже переводил с русского на латинский, — в духовное училище его определили сразу в третий класс.

Дальше была Смоленская семинария, преподавание в духовном училище и только что открывшаяся Петербургская духовная академия, куда лучшего воспитанника приняли сразу на второй курс. Он знал латынь, немецкий, французский, древнегреческий и древнееврейский и резко выделялся среди сокурсников. Ректором академии был тогда архимандрит Филарет (Дроздов), будущий митрополит Московский; он полюбил талантливого воспитанника и остался его наставником и покровителем на всю жизнь.

В 1818 году, на двадцать седьмом году жизни, Михаил принял постриг с именем Макария, а через несколько дней был рукоположен в иеромонаха. В 1821 году он стал игуменом, потом архимандритом и получил в управление Костромской Богоявленский монастырь, но уже к концу 1825 года подорванное здоровье вынудило его уйти на покой. В 1826 году он перевёлся в Глинскую Богородицкую пустынь — по собственному желанию, чтобы стать учеником её настоятеля, игумена Филарета. Учёный архимандрит, магистр богословия и бывший ректор семинарии добровольно пошёл под начало к неучёному, но опытному в духовной жизни старцу; в Глинском патерике это названо великой редкостью. Там же он проповедовал по праздникам и переводил в келье Библию с еврейского на русский, а ещё переложил на русский беседы святителя Григория Двоеслова и «Исповедь» блаженного Августина.

По благословению митрополита Филарета он подал в Синод прошение о желании быть миссионером на Алтае, и в мае 1829 года получил предписание ехать в Сибирь. С двумя помощниками, воспитанниками Тобольской семинарии, они образовали братство, положив правилом иметь всё общее — деньги, пищу, одежду, книги. 4 сентября 1830 года архимандрит впервые выехал из Бийска в улус Улалу и там крестил первого своего новообращённого — семнадцатилетнего кочевого татарина, нареченного Иоанном.

Дальше — тринадцать с лишним лет разъездов по Бийскому и Кузнецкому округам. Сначала местные жители сторонились его и боялись креститься, некоторые даже собирались откочевать подальше; но действия миссионера, полные милосердия и сострадания, постепенно переменили их отношение. Он понимал, что без грамоты проповедь не будет понята, и начал огромную работу: создал алтайскую письменность на основе русского алфавита, составил словарь примерно в три тысячи слов, открыл миссионерскую школу в Улале. Новокрещёных он не бросал на произвол судьбы: строил им дома, покупал скот, орудия и семена, тратя на это собственное жалованье, добился для них льгот и государственного финансирования миссии, выписывал из Петербурга земледельческие журналы и книги по овцеводству. При Улалинском стане возникла женская община, позже ставшая монастырём.

В 1844 году архимандрита уволили из миссии и определили настоятелем Болховского Троицкого Оптина монастыря. Там он и скончался 18 мая 1847 года по старому стилю и был погребён в монастырском соборном храме, по правую сторону алтаря.

Важно не спутать его с другим алтайским святым — святителем Макарием (Невским): это разные люди и разные дни памяти. Здесь — преподобный Макарий Глухарёв, основатель Алтайской духовной миссии, память которого совершается 31 мая.