Он родился в очень знатном римском доме, состоявшем в родстве с императорской семьёй, но в младенчестве был разлучён с родителями и братьями и рос среди чужих людей. Образование ему дали блестящее, как и всем знатным юношам Рима, только светские науки его не занимали. Едва став совершеннолетним, Климент оставил город и отправился на восток — туда, где жил и страдал Христос и где проповедовали апостолы.

В Александрии он услышал проповедь Варнавы и стал горячим сторонником нового учения. Через какое-то время странствия свели его с апостолом Петром: от него Климент принял крещение и вошёл в круг ближайших учеников. Тогда же произошло то, на что он давно перестал надеяться: среди учеников Петра нашлись его братья-близнецы, а немного погодя отыскались и родители. Вся семья приняла христианство и стала проповедовать.

Незадолго до своей кончины апостол Пётр рукоположил Климента во епископа. После Петра, Лина и Анаклета он с 92 по 101 год возглавлял Римскую Церковь. Жизнь его убеждала надменных римлян сильнее слов: житие сохранило рассказ о том, как однажды на Пасху после его проповеди крестились сразу четыреста двадцать четыре человека — и рабы, и люди из императорской родни.

Успехи епископа встревожили язычников, и они донесли императору Траяну, будто Климент не чтит римских богов. Разгневанный император отправил его в ссылку — в Инкерманские каменоломни близ Херсонеса Таврического, обычное место ссылки христиан. Многие ученики пошли за наставником добровольно. Тяжелее всего в каменоломнях было без питьевой воды, и по молитве святителя Ангел в виде Агнца указал, где искать источник. Чудо привлекло толпы народа: слушая проповедь, ко Христу обращались сотни язычников, крестилось по пятьсот человек в день, а в самих каменоломнях вырубили храм. В 101 году по приказу императора Климента утопили, сбросив в море с грузом на шее.

Дальше начинается история его мощей. По молитве учеников Корнилия и Фивы и всех христиан Херсонеса море расступилось, и тело нашли на дне, в нерукотворной «Ангельской» церкви. Потом каждый год в день кончины святого море отступало на семь дней, и люди молились у его мощей; так было до начала IX века. В шестидесятые годы того столетия мощи снова явились на поверхности моря — после соборной молитвы херсонесского духовенства и приехавших в город Константина-философа и его брата Мефодия. Константин считал священномученика покровителем своего дела, и не ошибся: когда братья принесли в Рим мощи вместе со славянскими книгами, папа Адриан вышел им навстречу, книги были освящены, и на богослужении в Риме впервые наряду с латынью прозвучала славянская молитва.

На Русь часть мощей — главу святого — вместе с мощами его ученика Фивы перенёс из Херсонеса князь Владимир и положил в Десятинной церкви, в приделе во имя священномученика. Это была первая христианская святыня, появившаяся на Руси, чем и объясняется давнее и широкое почитание Климента у нас.