В миру будущего святителя звали Елевферием. Он родился в Москве в семье боярина Феодора Бяконта, выходца из Черниговского княжества; год рождения источник называет 1292-й, оговариваясь, что есть и другие данные.

О своём призвании он узнал рано. На двенадцатом году жизни мальчик раскинул сети для ловли птиц, незаметно задремал — и услышал голос. Житие передаёт эти слова так: «Алексий! Что напрасно трудишься? Ты будешь ловить людей». С того дня отрок стал уединяться и часто бывать в церкви, а в пятнадцать решил уйти в монахи.

В 1320 году он вступил в московский Богоявленский монастырь и провёл там больше двадцати лет в строгих иноческих подвигах. Наставником его был старец Геронтий, а другом — Стефан, брат преподобного Сергия Радонежского. Потом митрополит Феогност поручил ему судебные дела Церкви, и двенадцать лет он был митрополичьим наместником. В конце 1350 года его посвятили во епископа Владимирского, а после кончины Феогноста патриарх Филофей поставил его митрополитом. Настольная грамота датирована 30 июня 1354 года: греком он не был, и в сан его возвели в виде исключения — за добродетельную жизнь и духовные достоинства.

Русскую Церковь тогда раздирали нестроения и распри. В 1356 году святитель отправился в Константинополь, и патриарх Каллист дал ему право считаться архиепископом Киева и Великой России. На обратном пути корабль попал в бурю, и святитель дал обет построить храм тому святому, в чей день судно пристанет к берегу; пристали 16 августа. По этому обету в 1361 году в Москве на Яузе появился монастырь Спаса Нерукотворенного Образа — Андроников, названный по имени первого игумена, ученика преподобного Сергия.

Он ставил епископов, устраивал общежительные монастыри по образцу Троицкого, налаживал отношения с ордынскими ханами и не раз сам ездил в Золотую Орду. В 1357 году хан потребовал, чтобы святитель приехал исцелить его ослепшую супругу Тайдулу. Митрополит прямо сказал, что дело выше его сил, но что верит Тому, Кто дал прозреть слепому. По его молитве, окроплённая святой водой, ханша исцелилась.

Когда скончался великий князь Иоанн, святитель взял под опеку его малолетнего сына Димитрия — будущего Донского, — и много потрудился, примиряя князей, не желавших признавать власть Москвы. Он основал Чудов монастырь в Кремле, восстановил Благовещенскую обитель в Нижнем Новгороде и Константино-Еленинскую во Владимире, а в 1360 году устроил в Серпухове Владычний женский монастырь.

Скончался святитель Алексий 12 февраля 1378 года, прожив семьдесят восемь лет и пробыв на кафедре двадцать четыре года; погребли его по завещанию в Чудовом монастыре. Мощи были чудесно обретены через полвека. Память совершается 25 февраля и 2 июня.