В XIX веке город украшали 10 каменных церквей, радуя глаз своими совершенными формами. Церкви были «привязаны» к местности, составляя единый архитектурный ансамбль города. Когда же была построена в Слободе первая церковь? Сколько их было, как они выглядели? Вполне вероятно, что первая церковь была Троицкая. Время ее постройки определить очень трудно, но есть предположение, что церковь (собор) строилась вместе с крепостью. Соборная церковь была деревянной. Между 1655 и 1682 годами рядом была построена Ильинская церковь. Она служила теплой церковью при соборе. Гораздо позже, в 1763 году, этот придел был отделен от собора «с причислением к нему особого прихода». Из-за тесноты Ильинская церковь выносится из крепости, и из нее образовалась Благовещенская церковь. Вместо Ильинской церкви в 1765 году при соборе была построена новая теплая деревянная церковь по просьбе воеводы в честь Божией Матери Живоносного Источника. Таким образом, до возведения нового соборного храма в конце XVIII века были три соборных храма: Троицкий, Ильинский и Живоносного Источника. Каждая из этих церквей была деревянная, они, как отмечал И.Соколов, «не отличались архитектурой, просуществовав до конца XVII века».
В 1780 году заводчик Миляков строит на свои средства новую соборную церковь. Возведение собора продолжалось более пяти лет. Он был построен в 10 саженях от прежних церквей. Собор постепенно перестраивался, а после пожара в 1817 году, когда сгорел почти весь город, он подвергся некоторым переделкам: был перестроен купол церкви, прежняя колокольня разобрана и возведена новая. Жители города были довольны и лестно отзывались о новом храме: «церковь Живоначальной Троицы с приделы ко вмещению приходских людей способна, благолепием украшена не худо». Долгое время собор не ремонтировался и стал приходить в упадок: протекала крыша, это сказалось на фресках. В 1862 году по указанию архитектора Елецкого строители составили смету, на основании которой для перестройки церкви потребовалось 12183 рубля 75 1/2 копейки. Начатая в 1862 году перестройка была закончена в 1866 году. В 1875 году обветшавшая колокольня была разобрана до нижнего яруса и построена в два новых яруса, приобретены были часы на колокольню, а в 1881 году отлит колокол в 500 пудов. К концу XIX века собор представлял собой длинное (20 сажен длины и 12 ширины) каменное здание, построенное равносторонним греческим крестом. Здание одноэтажное, «стены выкладены все сплошною кладью из кирпича, в них связи железные». Кровля на сводах дуговая, двухскатная из листов железа. Свод венчали пять глав, на каждой деревянный обитый жестью крест; колокольню венчал железный позолоченный крест.
Кроме Троицкого собора, Миляковы построили в городе каменные церкви: Покровскую, Благовещенскую, Смоленскую и Владимирскую, а в уезде - Ефаевскую (1772 г.), Аракчеевскую (1767 г.).
Ныне в соборе - один из цехов прядильно-ткацкой фабрики.
Рядом со Смоленской церковью и Троицким собором располагалась Благовещенская. Именно эти чудесные архитектурные сооружения украшали город со стороны Прамы и Мокши. О Благовещенской известно немного. Она была построена на месте Ильинской церкви, сооруженной между 1655 и 1682 годами. До середины XVIII века Ильинская церковь не была отдельной, это была теплая церковь при соборе, не имевшая отдельной колокольни. Затем она была вынесена из крепости и построена возле её стены. В 1832 году на средства Миляковых на её месте был построен новый каменный храм - Благовещения Пресвятой Богородицы. Среди жителей города и окрестных сёл её называли Благовещенской. Её удобно было украшать к Пасхе. На веревках развешивались фонари и флаги. С этими гирляндами церковь напоминала парусник, иллюминированный и украшенный к торжеству. Этот момент и запечатлён на фотографии.
В северо-западном углу нижней базарной площади располагалась Смоленская церковь. Интересна история ее создания. Известно, что она была построена на месте упраздненного в 1764 году Иоанно-Предтеченского монастыря. В самом монастыре были две церкви: во имя святого пророка Иоанна Предтечи и в честь Богородицы. Церковь Иоанна Предтечи была деревянная, однопрестольная. О времени ее возведения известно, что «начало ее построения совпадает с основанием самого монастыря... одной грамотой патриарха Адриана утвержден и монастырь и благословлено построение церкви». Началось строительство не позднее 1699 года, а закончилось в 1701 году. Это подтверждается указом от 31 января 1701 года, где говорилось: «велено мне, архимандриту Иосифу, освятить церковь Предтечева монастыря и тогда освятил ея». Вторая церковь - Богородицы - была основана в 1709 году. О ней имеются данные: «Еще в 1709 году в 18 день по указу Великого Государя меж патриаршества благословил Преосвященный Стефан Митрополит Рязанский и Муромский... построить церковь во имя Пресвятые Богородицы».
Эти две деревянные церкви постепенно ветшали. Андрей Тарасович Миляков дал необходимые деньги и «в 1772 году на место сей ветхой церкви был построен новый каменный храм, который (в первые годы) именовался церковью Иоанна Крестителя». Она сохранила это название, а в 1777 году получила и второе - Смоленская в честь иконы Смоленской Божией Матери.
На фотографии (слева направо) - земская больница, дом Севастьяновых, богадельня, мужская гимназия, за Предтеченской церковью - магазин братьев Соловьевых с земской аптекой.
Недалеко от пересечения улиц Большой Пензенской и Колемасовской находилась Покровская церковь. Первоначально она располагалась в Покровском женском монастыре. Год основания ее можно определить по надписи, сделанной в типиконе приходской Покровской церкви: «год основания в означенной надписи 1682-й, а год освящения церкви - 1675-й». Церковь была двухпрестольная - Покрова Богородицы и Николая Чудотворца. После упразднения монастыря она стала приходской, а после того как обветшала, была перенесена на новое место. На Покровской площади в 1770 году строится каменный храм Покрова Пресвятой Богородицы. Приход состоял из жителей города и деревень Курановка, Литва, Грачёвник. Церковь постоянно перестраивалась.
На Владимирской площади города находилась Владимирская церковь. В 1680 году на этом месте была построена вторая приходская церковь во имя Николая Чудотворца. Постепенно деревянная церковь обветшала и в 1762 году Миляков вместо 2 деревянных церквей, Николаевской и Владимирской, что на Карьге, построил одну каменную во имя Владимирской Божией Матери с приделом во имя Николая Чудотворца. Церковь была приходской для жителей Лаушек и нижней части города. На панораме, сделанной с колокольни Троицкого собора, виднеется купол этой церкви, но сама она скрыта другими зданиями. К счастью, сохранилась фотография церкви, сделанная предположительно в 1912 году. Храм был украшением Владимирской площади. Однако после роковых 30-х он был уничтожен. Со временем на его месте строится здание ГАИ. Рядом возводится автовокзал. Да и сама площадь получает новое название - «Комсомольская».