Nalazi se u istočnom podgrađu u zgradi koja je prvobitno služila kao barutni magacin. Godine 1867, posle prelaska tvrđave u srpske ruke, zgrada magacina pretvorena je u crkvu nazvanu «Ružica». Ikonostas je delo slikara-kaluđera Rafaila Momčilovića. Zidne kompozicije, scena iz života Bogorodice i portreti istaknutih ljudi (Aleksandra Karađorđevića, Nikole Pašića i drugih) delo su slikara Andreja Bicenka. Na ulazu u crkvu 1924. godine postavljene su bronzane figure, srpski srednjevekovni vitez i vojnik iz prvog svetskog rata, autora N.P. Krasnova.