Родился будущий священномученик 8 сентября 1873 года в рязанском селе Чарус, что в Касимовском уезде; в миру его звали Иван Дмитриевич Ансеров. Отец служил пономарём в тамошней Успенской церкви. Мальчик окончил по первому разряду Касимовское духовное училище, затем Рязанскую духовную семинарию и был назначен учителем в церковноприходскую школу.

В 1894 году его рукоположили во диакона к храму родного села, а летом 1897-го — во священника Преображенского собора города Спасска. Служение он совмещал с преподаванием: учил Закону Божию нижних чинов уездного воинского управления и безвозмездно исполнял для них требы, был законоучителем женского училища, а с 1913 года преподавал в женской гимназии. Со временем его возвели в сан протоиерея.

К собору была приписана деревянная Успенская церковь, которую в городе звали Боровой — она стояла у леса, и при ней жили около десяти монахинь. В конце двадцатых годов власти взялись закрывать в городе все храмы. Когда собор решили отобрать, отец Иоанн посоветовал общине везти ходатайство в Москву; официального ответа не последовало, но храм тогда уцелел.

27 мая 1931 года протоиерей отслужил в Боровой церкви литургию, а днём загорелась колокольня, и деревянный храм сгорел целиком — успели вынести только иконы. Пожар начался высоко внутри колокольни, поэтому многие говорили о поджоге. Через три дня арестовали священника, старосту и двенадцать монахинь, обвинив их в антисоветской деятельности и в поджоге собственного храма. В августе тройка ОГПУ приговорила отца Иоанна к пяти годам ссылки в Казахстан.

В конце 1934 года он вернулся и снова стал служить в Преображенском соборе — последней действующей церкви города. Через несколько месяцев собор закрыли; верующие писали жалобы одну за другой, просили вернуть хотя бы ветхую кладбищенскую церковь, годами стоявшую под ссыпкой зерна, но и её отдавать не спешили.

В феврале 1938 года отца Иоанна арестовали снова — на основании показаний священника, много лет бывшего осведомителем и подписавшего протоколы, написанные следователем. На допросах и на очной ставке протоиерей отвечал коротко и одинаково: ни в какой организации не состоял, антисоветской деятельностью не занимался, показания против него неправдоподобны. Особое Совещание приговорило его к восьми годам лагеря.

В мае 1938 года он был доставлен в Карлаг. Здоровье он потерял быстро и как утративший трудоспособность был переведён в группу инвалидов. Священномученик Иоанн Ансеров скончался 6 мая 1940 года на лагерной командировке Бурма и погребён в безвестной могиле.