Будущий священномученик появился на свет 11 сентября 1879 года — в деревне Филипково, что в Переславском уезде Владимирской губернии, в семье крестьянина Гавриила Плеханова. Окончив церковноприходскую школу, в 1892 году он уехал в Москву. Так поступали тогда многие подростки: крестьянские хозяйства разорялись, и деревня отпускала детей в город. Судьба таких мальчиков часто была печальной: город ломал их быстро. Ивана, как говорит его жизнеописание, спасли вера и привычки, вынесенные из родительского дома.

Он выучился на повара. Служил в ресторане Тестова на Воскресенской площади, затем в чайной; при советской власти заведовал столовой, а потом стал поваром у Патриарха Тихона. В 1920 году Патриарх рукоположил его во диакона к Троицкой церкви на Троицком подворье, где он одновременно состоял членом приходского совета. Служил он там до ареста Патриарха и захвата подворья обновленцами.

Летом 1923 года ОГПУ арестовало диакона вместе с женой; их посадили в Бутырскую тюрьму. При обыске у него нашли машинописное наставление против обновленцев — о том, что с упадком благочестия в церковную среду проникнет много лжебратий, которые устроят гонение на всех, кто хочет жить благочестиво. На допросе он отвечал сдержанно: считает себя членом Православной Церкви как прежде, так и теперь; о раскаянии Патриарха судить не берётся; бумагу получил в храме от незнакомой женщины. В сентябре его освободили за недоказанностью.

Всё время диаконского служения он оставался при кухне: сначала у Патриарха, а после его кончины — у Местоблюстителя, митрополита Петра (Полянского). В 1925 году епископ Бронницкий Иоанн (Васильевский) рукоположил его во иерея. В Москве отец Иоанн служил до ноября 1936 года, но храмов закрывали всё больше, приходов становилось меньше, и ему пришлось уйти за штат. Как священнослужителя, его выслали за стокилометровую зону; пожив в Волоколамске, он получил назначение в храм Дмитриевского погоста Нагорьевского района Ярославской области. Оттуда он часто ездил в Москву — за церковной утварью и повидать духовных детей, которых у него осталось немало. Об этих приездах донесли.

В конце января 1938 года он приехал в Москву, собираясь остаться на венчание племянницы, но в тот же вечер был арестован. Двое дежурных свидетелей — священнослужители московских храмов — дали нужные показания. Сам он отверг все обвинения и виновным себя не признал. 15 марта 1938 года тройка НКВД приговорила его к расстрелу. Священника Иоанна Плеханова расстреляли 25 марта 1938 года и погребли в безвестной общей могиле на полигоне Бутово под Москвой.

Священномучеников на иконах пишут в облачении, с крестом в руке; узнают образ по надписанию имени. К отцу Иоанну обращаются те, кто работает у плиты и за прилавком, и все, кому приходится хранить веру, живя обычной городской жизнью.