Будущий священномученик появился на свет в 1875 году, в семье диакона Василия Хрусталева. Родиной его называют село Богородское Серпуховского уезда Московской губернии, по другим сведениям — село Починки того же уезда. Учился он сначала в Перервинском духовном училище, затем перешёл в Московскую духовную семинарию и окончил её в 1898 году.

Женился на Юлии Андреевне Румянцевой, дочери священника; у супругов родилось восемь детей. В 1900 году его рукоположили во диакона к Головинскому женскому монастырю, где он прослужил два года, а потом был переведён в храм Рождества Пресвятой Богородицы подмосковного села Владыкино. В 1915 году матушка умерла. Через два года не стало прежнего настоятеля, протоиерея Иоанна Протопопова, и прихожане сами хлопотали за отца Иоанна: его рукоположили во пресвитера и поставили настоятелем владыкинской церкви, позже возведя в сан протоиерея.

Новая власть требовала бросить служение и закрыть храм. Священник не только продолжал служить, но и ходил с требами по домам односельчан, хотя это было запрещено. Когда стало ясно, что под ударом окажется семья, он ушёл из дома в маленькую сторожку на церковном дворе и служил оттуда; по воскресеньям церковь была полна. Родные его не оставили: маленькая внучка Лида приносила еду, дочери стирали одежду.

Беда пришла из собственной семьи. Муж одной из дочерей, домоуправ Григорий Румянцев, человек пьющий и вздорный, распускал слухи, будто негласно служит в НКВД и может посадить любого, и давно добивался, чтобы владыкинскую церковь отдали под клуб. В 1937 году начальник районного отдела НКВД потребовал от него подписать лжесвидетельства — и он согласился оговорить причт своего храма: тестя-священника, диакона и псаломщика.

19 ноября 1937 года отца Иоанна арестовали по обвинению в контрреволюционной агитации. На допросе он отвечал коротко: виновным себя не признаёт, ничего подобного среди верующих не говорил. 5 декабря тройка НКВД приговорила его к расстрелу, а проходивших с ним протодиакона Сергия Станиславлева, псаломщика Николая Некрасова и самого доносчика — к десяти годам лагерей. 10 декабря 1937 года священника расстреляли на Бутовском полигоне. В 1957 году его реабилитировали, а 27 марта 2007 года решением Священного Синода он был причислен к сонму новомучеников и исповедников Российских, пострадавших в Бутове.

Священномучеников на иконах принято писать в иерейском облачении, с крестом в руке; узнают такой образ прежде всего по надписанию имени. К отцу Иоанну обращаются с молитвой о стойкости в вере, о защите от напраслины и о вразумлении тех, кто идёт против своих же близких.