Иван Ильич Ганчев родился в 1878 году в селе Сима Владимирской губернии. Духовное образование получил в Петроградской духовной семинарии; там же, любя живопись, ходил на художественные курсы — и потом, уже священником, в свободные часы писал маслом пейзажи и картины на библейские сюжеты.

Окончив семинарию, в 1910 году он принял священный сан и по благословению священноначалия поехал служить в далёкий и неправославный тогда для него Азербайджан. Сначала был настоятелем Боголюбского храма в селе Александровка Кубинского уезда, а в 1911 году указом бакинского епископа Пимена назначен настоятелем собора Рождества Богородицы в Баку — храма, сохранившегося до наших дней. За годы служения он объехал всю азербайджанскую землю с севера до юга.

Знавшие его вспоминали человека образованного и с большим сердцем. Дома у него была огромная библиотека, под которую отвели отдельную комнату, попадались и книги с дарственными надписями авторов. Он играл на фисгармонии, рисовал и хорошо разбирался в медицине: был попечителем больницы, сам следил за лечением больных и нередко помогал прихожанам. В 1913 году у него родился сын Юрий, через год — дочь Людмила.

В двадцатые годы начались гонения: изымали утварь, отбирали иконы, отнимали дома у духовенства, заколачивали храмы. По благословению правящего архиерея отец Иоанн уехал с семьёй из Баку к брату в Ленкорань, а после смерти тамошнего священника стал настоятелем храма иконы «Всех скорбящих Радость» в селе Пришиб — и сам расписал эту небольшую церковь.

В 1933 году закрыли и Пришибский храм. Ночью 20 марта отца Иоанна арестовали по ложному обвинению, и вместе с ним забрали всю семью — жену, брата, сына и дочь, которым было по восемнадцать-девятнадцать лет; держали их в отдельных камерах строгого режима, спать приходилось на бетонном полу. В сентябре коллегия ОГПУ выслала священника в Казахстан на пять лет. Подписывая протокол, он написал, что душой и сердцем всегда был против советской власти, но действиями своими — никогда. Семью выпустили, но возвращаться было некуда: их комнату уже заняли. О судьбе отца дети узнали только через полвека.

В марте 1936 года, по окончании ссылки, он возвращался в Баку, но по дороге был арестован, возвращён в Чимкент и осуждён ещё на три года — теперь в Карагандинский лагерь. Там он поддерживал и ободрял других заключённых. 19 сентября 1937 года его арестовали в лагере с формулировкой, что он возглавил группу верующих и бывших священников и совершал службы; виновным себя не признал. 31 октября тройка приговорила его к расстрелу, приговор привели в исполнение 2 ноября 1937 года.

Похоронен священномученик в братской могиле на старом кладбище посёлка Долинка Карагандинской области. В 2000 году Юбилейный Архиерейский Собор причислил его к лику новомучеников и исповедников Российских; память священномученика Иоанна Бакинского празднуется 2 ноября.