Kisszeben már 1299-ben jelentős privilégiumokkal rendelkezett. Miután 1405-ben szabad királyi várossá emelték, a privilégiumok sora tovább gyarapodott. A 15. század végén Kisszeben tagja lett a Pentopolitana szövetségének, mely öt kelet-szlovákiai város, Kassa (Košice), Eperjes (Prešov), Bártfa (Bardejov), Lőcse (Levoča) és Kisszeben (Sabinoc) együtteséből állt. Kisszeben méltán büszke megőrzött történelmi városmagjára, melyet a középkori városi erőd védőfalai vesznek körül. A városkép legmeghatározóbb épületei a városháza és a gótikus Keresztelő Szent János templom, amely a legjelentősebb és legrégibb építészeti emlék Kisszebenben. A templom legértékesebb része a főoltár, amely Lőcsei Pál mester műhelyéből származik, és eredetije a budapesti Nemzeti Múzeumban található. A templom közvetlen közelében található az egykori evangélikus líceum reneszánsz épülete 1530-ból, amely jelenleg a piarista gimnázium székhelye.