В XVII веке переулок носил название «Быкова улица» по фамилии одного из домовладельцев, позднее - Малый Кузнецкий переулок, поскольку вблизи находились кузницы Бронной слободы.Современное название появилось в ХIХ веке по церкви святого апостола Иоанна Богослова. Церковь была построена в ХVII веке, первое упоминание о ней датируется 1615-м годом. В 1933-1992 гг. храм был закрыт, в 1995 году восстановлен