Родился он 8 ноября 1792 года в дворянской семье из Кролевецкого уезда Черниговской губернии. При крещении его назвали в честь святого Павла Исповедника. Родители хотели дать сыну образование и хорошее общественное положение, но его самого тянуло к молитве и странничеству по святым местам.

В двадцать пять лет он раздал доставшееся ему имение, отпустил на волю крестьян и с отцовским благословением ушёл странствовать по святым обителям. Странничество продлилось около десяти лет, а потом он осел в приморском Таганроге.

Здесь о дворянском происхождении он забыл: говорил на простонародном малороссийском наречии, жил в землянке, тяжело работал в порту. К старости он оставил порт и поселился в маленьком доме. День его начинался с первым ударом церковного колокола: он шёл в собор, молился за литургией, поправлял лампады — для этого носил с собой маленькую скамеечку — и вытирал иконы белым полотенцем, которое держал на плече. Из храма шёл на базар, обвешанный двумя холщовыми сумками, с палкой в руке, и обходил торговцев с наставлениями и утешением. Милостыню принимал не от всех: от некоторых отказывался наотрез.

Ночи он проводил в усердной молитве с коленопреклонением. Иисусова молитва не сходила с его уст; он учил ей всех приходящих и без неё никого к себе не впускал. Храмы он любил и часто жертвовал в них иконы, лампады, свечи, елей, учил быть верными в малом и бережно относиться к тому, что освящает жизнь человека, — просфоре, ладану, свече.

От Господа он получил дар исцеления и прозорливости, и люди пошли к нему со своими скорбями и вопросами. Некоторых он оставлял пожить у себя как бы на послушании. Образованность свою он прятал под напускной грубостью: если приходил человек с нераскаянными грехами, старец не обличал его прямо, а принимался при нём распекать кого-нибудь из своих послушников, называя вслух чужие грехи, — чтобы гость услышал и опомнился. Послушник кротко терпел и повторял: простите, батюшка, виноват.

Своему духовнику иеромонаху Дамиану он предсказал, что тот станет очень большим человеком, — и в 1897 году отец Дамиан был поставлен патриархом Иерусалимским. День и час собственной кончины ему тоже были открыты: накануне он велел написать близким письмо с просьбой быть на его похоронах. Скончался старец 10 марта 1879 года, причастившись Святых Христовых Таин от отца Дамиана; все, кто был рядом, видели, что лицо его в этот миг просияло.

Местное прославление совершилось в Таганроге 20 июня 1999 года: поклониться блаженному приехали более десяти тысяч человек, а ковчег со святыми мощами торжественно перенесли из Всехсвятской церкви на старом кладбище в Свято-Никольский храм. Сам старец незадолго до кончины напевал слова о том, что понесут его на могилу, а с могилы — в собор. В феврале 2016 года Архиерейский Собор включил имя праведного Павла Таганрогского в месяцеслов для общецерковного почитания.

Память совершается 23 марта и 20 июня.