Býval to kdysi nejluxusnější hotel v Mariánských Lázních, dnes je prázdný a chátrá

Budova byla postavená v roce 1821 pod názvem Klebelsberkův palác jako široká dvoupatrová stavba. Po obou stranách půloblouková vrata tvořila na jedné straně vjezd, na druhé výjezd.

Palác měl v té době 35 pokojů, 3 velké kuchyně, stáje pro 24 koní a dlouhou dobu to bylo jediné místo, kde bylo v lázních k dostání víno.

Jedním z vůbec prvních hostů tehdejšího Klebelsbergova paláce byl německý básník Johann Wolfgang von Goethe. Na počest výmarských hostů (velkovévody Karla-Augusta Sasko-Výmarského a právě J. W. Goethe) se v roce 1824 přejmenoval na hotel Weimar (Výmar). V roce 1949 se pak jeho název změnil naposledy, a to na současný hotel Kavkaz.

Dnešní podobu získala budova v roce 1904, kdy proběhla přestavba na čtyřpatrový hotel podle návrhu vídeňského architekta Arnolda Heymanna. V prvním patře trávil všechny letní návštěvy anglický král Eduard VII.

Jeho pobyt dodnes připomíná pamětní deska na fasádě hotelu. Část původního vybavení královského apartmá je dokonce k vidění v expozici Městského muzea v Mariánských Lázních.

V roce 1949 už jako hotel Kavkaz dům převzaly Československé státní lázně a stavebními úpravami došlo ke spojení s oběma sousedními domy. Areál sloužil jak lázeňské sanatorium až do roku 1994. Od té doby je budova prázdná a chátrá.