Мирского имени преподобного Космы предание не сохранило. Известно только, что родился он у благочестивых родителей-бояр, живших между Владимиром и Юрьевом. Средств содержать сына у них не хватало, и отрок перешёл на службу к соседу-помещику. Господин оказался человеком богобоязненным, полюбил мальчика и сам учил его грамоте.

Однажды помещик тяжело занемог. Уповая на помощь Божию, но не пренебрегая и человеческой, он отправился искать её по русским городам и весям, взяв с собой Косму. У источника в Яхроме больной, утомившись дорогой, уснул. И тут отрок увидел свет, заливший всё вокруг, и услышал голос, звавший его к богоугодной жизни. Свет исходил от иконы Успения Божией Матери, явившейся на дереве. Косма решился взять образ и приложил его к больному месту своего господина — тот проснулся совершенно здоровым.

Когда срок службы вышел, тот же голос позвал отрока оставить мир. Взяв икону, Косма пришёл в Киево-Печерскую обитель, где хранился подлинник явленного ему образа. Икону он отдал в Лавру, а сам просил игумена постричь его. Настоятель колебался — уж очень юн был проситель, — но уступил его настойчивости. В монастыре юноша поразил братию: даже опытные старцы дивились непрестанной молитве и постническим трудам инока.

Спустя многие годы преподобному явился светоносный юноша и от имени Божия велел идти во Владимирские пределы, на реку Яхрому, и поставить там храм в честь Успения Матери Божией. Косма покинул Киев, и на месте обретения иконы свет воссиял снова. Он срубил там небольшую деревянную церковь — это было в 1482 или 1483 году. К нему стали сходиться люди, желавшие подвизаться под его руководством, и среди лесов выросла Космина обитель; преподобного избрали игуменом. Он с радостью принимал странников, посещал больных и молился об их исцелении, а грешников умел расположить к покаянию кроткой беседой. Скончался преподобный Косма в глубокой старости 18 февраля 1492 года и был погребён в основанной им обители.

Записаны два исцеления у его мощей. Житель деревни Зернево, много лет страдавший помрачением ума и уже близкий к смерти, на пятый день молитвы у гробницы выздоровел и вернулся домой здоровым. Отрок Стефан, сын работавшего при монастыре человека, лежал расслабленным и готовился к смерти, но после усердной молитвы родителей у мощей встал на ноги.

Преподобных принято писать в монашеском облачении, с развёрнутым свитком или чётками; у преподобного Космы Яхромского на иконах бывает и явленный ему образ Богородицы. Память совершается 3 марта и 6 июля, а также в день празднования Яхромской иконы Божией Матери. К святому обращаются с молитвой о здоровье близких — исцеления у его гробницы записаны в самом житии.