Преподобномученик Иосиф, в миру Иван Илларионович Гаврилов, родился 16 октября 1888 года в благочестивой крестьянской семье. В Раифской обители под Казанью он прожил послушником двенадцать лет, прежде чем принять постриг. Позже, уже на следствии, он объяснил свой приход в монастырь просто: привели религиозные убеждения.

Послушания у него были обыкновенные — сначала в монастырской гостинице и на пчельнике. В 1910 году его взяли на военную службу библиотекарем при Офицерском собрании, в 1914-м демобилизовали, но, прожив в обители два-три месяца, он снова оказался на войне, теперь кашеваром. О революции он вспоминал, что встретил её на фронте и ничего хорошего от неё не ждал. В 1917 году он вернулся в монастырь; в 1918-м и начале 1919-го его брали в рабочий батальон разгружать вагоны, а с 1919 года он уже не покидал обители.

4 января 1920 года его постриг в мантию благочинный монастырей Казанской епархии игумен Феодосий, будущий настоятель Раифской пустыни; в том же году он принял сан иеродиакона. В июне 1928 года пустынь закрыли.

После закрытия крестьяне окрестных сёл собрали общину, в которую вошли семеро из тридцати бывших насельников, среди них и отец Иосиф. Приходским храмом стала монастырская Раифская церковь, и настоятелем прихожане выбрали именно его, хотя в обители были иеромонахи много старше по хиротонии. Влияние монашествующих в Раифе не ослабевало: к инокам шли крестьяне со всей Татарии, из Чувашии и Марий, а сами монахи продолжали крестить, исповедовать, отпевать и служить литургию — то в приходской церкви, то по домам. Власть это не устраивало.

23 января 1930 года в деревне Бело-Безводной арестовали всех живших там монахов и нескольких мирян — девятнадцать человек. Ожидаемого впечатления это не произвело: через четыре дня, 27 января, в день памяти преподобных отцов, в Синае и Раифе избиенных, в приходскую церковь на престольный праздник съехались бывшие насельники обители, а также престарелые монахини и миряне из Казани, Свияжска и окрестных деревень. Служили в красных облачениях. Это была последняя литургия Раифской братии: в последний раз причащались, напутствуя друг друга перед тем, что предстояло. Сразу после молебна преподобным отцам всех бывших в храме арестовали и увезли в Казань.

На допросах отец Иосиф говорил открыто. Он сказал, что ни в каких партиях не состоял, к власти относится как к власти, но власть, которая закрывает храмы, надругается над иконами и учит детей безбожию, воли Божией не исполняет. Он добавил, что лучше умереть с верой, чем без веры, что твёрдо верует в Воскресение Христово, что против налогов не шёл, ибо в Писании сказано отдавать кесарю кесарево, а Богу — Божие, и что виновным себя признать не может.

20 февраля 1930 года его приговорили к расстрелу, и 7 апреля, в день Благовещения Пресвятой Богородицы, приговор был приведён в исполнение. В 1996 году отец Иосиф причислен к лику местночтимых святых Казанской епархии.