В миру преподобного Иосифа звали Иоанном Саниным. Он родился, по большинству источников, в 1439 или 1440 году в селе Язвище-Покровское неподалёку от Волоколамска, в семье вотчинника. Прадед его, Саня, от которого и пошла фамилия, был родом из Литвы. О родителях известно немного: Иоанн и Марина оба окончили жизнь в монашестве. Кроме Иосифа в семье было ещё три сына; двое из них тоже приняли постриг, а Вассиан стал впоследствии архиепископом Ростовским.

Семилетним мальчика отдали учиться старцу Арсению из волоколамского Крестовоздвиженского монастыря. За год он выучил Псалтирь, за следующий — всё Священное Писание и стал чтецом и певцом в монастырской церкви. Современников поражала его память: не имея в келье ни одной книги, он вычитывал правило наизусть. В двадцать лет Иоанн ушёл из дома к строгому подвижнику Варсонофию, жившему близ Тверского Саввина монастыря, но тамошние правила показались ему недостаточно строгими, и по благословению старца он отправился в Боровск к преподобному Пафнутию. Простота жизни старца и точное исполнение устава пришлись юноше по душе. 13 февраля 1460 года Пафнутий постриг его с именем Иосиф. Молодой инок нёс тяжёлые послушания в поварне, пекарне и больнице; последнее он исполнял с особым тщанием, ухаживая за больными так, будто служил Самому Христу. Он был одарён музыкально, и вскоре преподобный Пафнутий поставил его экклесиархом — следить за исполнением церковного устава.

Около восемнадцати лет он провёл под руководством своего наставника. После кончины Пафнутия в 1477 году Иосифа рукоположили во иеромонаха и, по завещанию покойного, назначили игуменом Боровского монастыря. Управлял он им около двух лет и попытался перевести жизнь обители на строгое общежитие — часть иноков это встретила недовольством. Преподобный оставил монастырь и пошёл по русским святыням; побывав в Кирилло-Белозерской обители, он ещё твёрже решил создать новое общежитие. В 1479 году в волоколамских пределах, в лесу при слиянии рек Струги и Сестры, он основал монастырь в честь Успения Пресвятой Богородицы и ввёл там самый строгий порядок, составив собственный устав; опираясь на древние святоотеческие и русские общежительные монастырские уставы.

Обитель быстро благоустраивалась. В 1484–1485 годах вместо деревянного храма поставили каменный Успенский, а расписывал его летом 1485 года Дионисий Иконник с сыновьями Владимиром и Феодосием; вместе с ними работали и монастырские иноки Досифей и Вассиан Топорковы. В 1504 году заложили тёплую трапезную церковь Богоявления, затем построили колокольню с храмом Одигитрии. Много занимались перепиской богослужебных и святоотеческих книг, и волоколамское собрание стало одним из лучших монастырских книгохранилищ на Руси. Преподобный воспитал целую школу иноков: его учениками были митрополиты Московские Даниил и святитель Макарий, архиепископ Вассиан Ростовский, епископы Симеон Суздальский, Досифей Крутицкий, Акакий Тверской, святители Казанские Гурий и Герман, святитель Варсонофий Тверской.

Влияние его не ограничивалось монастырём. К нему шли за советом миряне, знатные люди звали его в восприемники своим детям, исповедовались, просили письменных наставлений. Простой народ находил в обители средства к жизни в крайней нужде — бывало, что на монастырские средства кормилось до семисот человек.

Соборы 1490 и 1504 годов стали местом, где преподобный открыто обличил возникшее в Новгороде лжеучение и решительно добивался осуждения тех, кто упорствовал в нём. Против этой ереси написана его главная книга — «Просветитель»; кроме неё, ему принадлежат двадцать четыре послания к разным лицам и краткая и пространная редакции монастырского устава.

Преподобный Иосиф скончался 9 сентября 1515 года; похоронили его в родной обители, у алтаря Успенского храма. Собор 1578 года причислил его к местночтимым святым, а в 1591 году почитание стало общерусским. Пишут его в монашеском одеянии, седобородым, с книгой или свитком в руке, а часто — с моделью Волоколамского монастыря.