Народився в червні 1896 року в селі Адамівка Харківської губернії, при святому Хрещенні отримав ім’я Михайло. Після революції залишив батьківщину, здобував богословську освіту, а згодом прийняв монашеський постриг з ім’ям Іоан.

Через кілька років був висвячений на єпископа та призначений до Шанхаю. Пізніше очолив Західноєвропейський екзархат Зарубіжної Церкви, а згодом був переведений до Сан-Франциско.

Святитель Іоан провадив надзвичайно суворе подвижницьке життя: невпинно молився, постив, щодня звершував Божественну Літургію та причащався Святих Христових Таїн. Від часу монашеського постригу він майже не лягав спати, відпочиваючи лише короткий час у молитві.

Святитель Іоан відійшов до Господа 2 липня 1966 року у віці 70 років.

В Свято-Вознесенському чоловічому монастирі зберігається ікона святителя Іоана Шанхайського з часткою його святих мощей.