Kaplnka sv. Urbana bola postavená v klasicistickom slohu v roku 1777 a upravená bola v roku 1832. O jej údržbu sa starala viničná obec Urban (Orbán), ktorá bola nezávislá od mesta Levice. Kaplnka predstavovala akoby vstupnú bránu do tejto obce (dnešné sídlisko Vinohrady). Jej umiestnenie nie je náhodné, nakoľko sv. Urban je patrónom vinohradníkov. V deň sviatku tohto svätca (25. mája) sa kedysi na tomto mieste pravidelne konala slávnostná svätá omša. Ľudia sa tu modlili za dobrú úrodu a požehnanie námahy, ktorú vynakladali pri prácach vo viniciach a na poliach.
Vedľa kaplnky rástol brest, tzv. Rákocziho strom, pod ktorým podľa legendy oddychoval František II. Rákoczi, sedmohradské knieža. Ten si v roku 1705 na krátky čas zriadil v Leviciach hlavné veliteľstvo a zúčastnil sa vojenskej porady na Levickom hrade. Brest i samotná kaplnka boli obľúbeným miestom zaľúbených párov, pretože v meste platila zásada, že sa v ňom nesmie verejným bozkávaním kaziť morálka. Bozkávanie bolo dovolené až pri Rákocziho strome.
Viac než 300 - ročný brest po zasiahnutí bleskom v roku 1966 vyschol a jeho kmeň spráchnivel. Nakoniec sa tento vzácny strom definitívne zrútil v roku 1992. Levický okrášľovací spolok tu zasadil v roku 2018 nový brest, ktorý, podobne ako Rákocziho strom, raz môže dotvárať výnimočnosť tohto miesta