Nejhodnotnější částí mobiliáře je zcela unikátní oltář s alabastrovými reliéfy z roku 1604 Obdobně působivá byla kazatelna, ze které se Dochovaly alabastrové reliéfy s pašijovými výjevy. Originally techto reliéfů byly na konci 19. století věnovány mostskému muzeu av kostele jsou nyní osazeny jejich věrné kopie. Tento unikátní soubor renesančních alabastrových reliéfů, jejichž autorem je saský sochař Melchior Kuntze z Freibergu, činí kostel sv. Floriana naprosto unikátní historickou památkou na pomezí Čech a Saska.
Na hlavní loď navazuje prostor, v němž je umístěna expozice o historických zobrazeních kostela, mobiliáři, archeologii a obnově. Sál v podstřeší kostela nabízí stálou výstavu ARTE FACTA, která návštěvníky seznámí s materiály a prvky, které byly používány per construct historických staveb. Ke kostelu je přičleněn také malý hřbitov, kde jsou pohřbeni jedni z posledních majitelů zámku z rodu Kolovrat-Krakovských-Novohradských.
V kostele se každou sobotu od 16.00 konají pravidelné bohoslužby.