Святитель Филипп родился в 1507 году и в миру звался Феодором. Род Колычевых был знатным боярским родом, занимавшим видное место в Боярской думе, и отец готовил сына к государственной службе. Мать, Варвара, окончившая жизнь в иночестве с именем Варсонофии, воспитала в нём веру. Великий князь Василий III приблизил молодого Феодора ко двору, и к нему был искренне привязан юный княжич Иоанн — будущий Грозный. Но придворная жизнь его не манила.

5 июня 1537 года, за литургией, ему особенно легли на сердце слова Спасителя о том, что нельзя работать двум господам. Он никому ничего не сказал, переоделся в простую одежду и ушёл из Москвы. Какое-то время скрывался в деревне у Онежского озера, пас скот, а затем добрался до Соловецкого монастыря. Там он рубил дрова, копал землю, работал на мельнице, и лишь через полтора года игумен Алексий постриг его с именем Филипп. Послушание в кузнице он совмещал с непрестанной молитвой, работал и в хлебне, а иногда уходил в пустынное безмолвие.

В 1546 году его поставили игуменом Соловецкой обители, и монастырь при нём преобразился. Он разыскал икону Богородицы Одигитрии, принесённую на остров преподобным Савватием, обрёл каменный крест, стоявший у его кельи, нашёл Псалтирь и ризы преподобного Зосимы. Был принят новый устав. Игумен построил два больших храма — трапезный Успенский, освящённый в 1557 году, и Преображенский, причём стены Преображенского собора клал вместе с работниками. Под его папертью он выкопал себе могилу рядом с могилой своего наставника, старца Ионы.

В 1566 году Иоанн Грозный вызвал соловецкого игумена в Москву на митрополичью кафедру. Святитель долго отказывался: духовной близости с царём он не чувствовал и пытался убедить его уничтожить опричнину. Сошлись на условии: митрополит не вмешивается в опричные дела и не оставляет кафедры, но остаётся царю опорой и советником, как прежние московские святители. Посвящение состоялось 25 июля 1566 года.

Мира не вышло. Новая волна казней 1567–1568 годов и то, что творили опричники, прикрываясь монашескими одеждами, святитель принять не мог: он считал, что нельзя смешивать служение креста со служением меча. Разрыв наступил 2 марта 1568 года, в Неделю Крестопоклонную: когда царь с опричниками пришёл в Успенский собор в чёрном облачении, митрополит не дал ему благословения и вслух стал обличать беззакония. Царь ответил гневом.

Участь его была решена, но всё сделали по видимости законно. Боярская дума вынесла решение о суде, а на соборном суде против митрополита свидетельствовали иноки его же Соловецкой обители, его бывшие ученики. Обвиняли во множестве вымышленных вин, вплоть до колдовства. Святитель отвергал обвинения и говорил, что он на земле пришелец, как и отцы его, и готов страдать за истину; попытался прекратить суд, сложив с себя сан, но отречения не приняли. Уже после приговора о пожизненном заточении ему велели служить литургию в Успенском соборе; случилось это 8 ноября 1568 года. Посреди службы в храм ворвались опричники, зачитали осуждение, сорвали архиерейское облачение, надели рубище и вывезли его на простых дровнях. Потом были подвалы московских монастырей, колодки и цепь на шее, а затем — Тверской Отрочь монастырь. Там 23 декабря 1569 года его убил Малюта Скуратов; конец свой святитель предвидел за три дня и успел причаститься Святых Таин.

Сначала его погребли там же, за алтарём монастырского храма. В 1591 году мощи перенесли на Соловки, а в 1652 году — в Москву. Память святителя праздновалась с 1591 года в день кончины, а с 1660 года была перенесена на девятое января по старому стилю. На иконах его пишут в архиерейском облачении с Евангелием, в белом клобуке митрополита.