Он родился в 1852 году в селе Барановке Вольского уезда Саратовской губернии. Отец, псаломщик Алексей Голубев, умер, когда сыну было всего девять лет. Константин окончил Саратовскую духовную семинарию по первому разряду, и к двадцати четырём годам понял, что его дело — миссионерство.

Место для этого было самое подходящее и самое трудное. С конца XVIII века саратовские земли заселяли раскольники разных толков: в одном только Вольске из тридцати тысяч жителей десять тысяч были раскольниками, а родная Барановка делилась на несколько сект. В семинарии учение раскола преподавали отдельно, и Константин изучил его подробно. Он вступил в саратовское Братство Святого Креста, созданное в 1867 году для миссионерской и просветительской работы, и с благословения епископа Саратовского и Царицынского Тихона (Покровского) отправился миссионером в своё село.

Начал он не со споров, а со школы: открыл церковноприходскую и сам стал в ней директором и учителем сразу по нескольким предметам, включая Закон Божий. Он был убеждён, что раскол и секты разрастаются там, где мало проповеди и просвещения. Настоятель храма священник Матфей его поддержал, и общими усилиями число раскольников в приходе заметно пошло на убыль, а вокруг миссионера собралась большая группа крестьян-ревнителей православия.

Через двадцать лет такой работы его позвали в Московскую епархию. 4 марта 1895 года митрополит Сергий перевёл Константина Алексеевича в Богородск — протоиереем к местному Богоявленскому собору, с правом первенства среди священников двух уездов — Богородского и Павло-Посадского; ему подчинили шестнадцать приходов. 12 марта епископ Можайский Тихон (Никаноров) рукоположил его во священника, и прихожане поднесли новому настоятелю икону святителя Николая в серебряной вызолоченной ризе. Уезд этот считался одним из самых заражённых расколом: здесь стояли фабрики богатых старообрядцев, а городские власти, получавшие от них щедрые пожертвования, смотрели на дело сквозь пальцы. Вошёл отец Константин и в число директоров уездного попечительного о тюрьмах комитета.

В Богородске он прослужил двадцать три года и стал духовным отцом множеству горожан. В 1918 году, когда советская власть ещё не везде утвердилась, священника арестовали, посадили в тюрьму и без всякого суда осудили на смерть. Узнав приговор, он передал детям из тюрьмы наперсный крест и служебник — об освобождении не просил, к смерти был готов.

Казнь оказалась мучительной. Расстрельщики только ранили его и живым бросили в неглубокую яму на опушке соснового бора, а потом стали засыпать землёй. Раненый поднимал голову и просил добить, дочь на коленях умоляла не хоронить отца живым — не помогло. Об этом написал в докладе Собору 1917–1918 годов архимандрит Сергий (Шеин), которому было поручено сообщить о гонениях и о новых мучениках. Когда священника вели из тюрьмы, за ним шла густая толпа, и шедшие рядом слышали, как он сказал: «Не ведают, что творят».

Могилу его долго почитали: служили панихиды, жгли лампаду, приносили иконы и цветы. Безбожники всё это уничтожали, и со временем место захоронения потерялось. Но память осталась, и 20 ноября 1995 года, накануне праздника Архистратига Михаила, мощи священномученика были обретены и перенесены в Тихвинский храм города. Рядом нашли останки ещё двух мучеников, пострадавших вместе с ним; один из них был солдатом того самого отряда, уроженцем Богородска: стрелять в священника он не стал, и его за это убили.