Jaromierz jest miastem o średniowiecznych korzeniach, którego najważniejszym zabytkiem jest XVIII wieczna twierdza. Tworzy ona osobną dzielnicę z doskonale zachowanymi podziemiami.
Miasto powstało w XII lub XIII w. u zbiegu rzek Upa, Metuja i Łaba. Do dziś zachował się wydłużony średniowieczny rynek z górującą nad zabudową katedrą św. Mikołaja. Jest tu też sporo zabytkowych kamieniczek, klasycystyczny Dom Handlowy Wenke, w którym mieści się dziś galeria oraz barokową kolumną maryjną.
W XVIII w. po drugiej stronie rzeki powstało miasto warowne Josfov, które obecnie jest dzielnicą Jaromierza. Jest to twierdza powstała według planów francuskich inżynierów wojskowych zaliczana do jednego z najlepszych przykładów ówczesnej architektury obronnej w Europie.
Twierdza jest obecnie największą atrakcją Jaromierza. Składa się z budynków naziemnych oraz labiryntu korytarzy, które są obecnie wykorzystywane na cele wystawiennicze i turystyczne. Szczególnie często odwiedzanym jest Twierdza Josefov - Bastion I i podziemia, gdzie znajduje się wystawa sprzętu wojskowego oraz podziemna galeria sztuki.