budova byla postavena z iniciativy Nikity Chruščova jako moderní aréna pro setkání Komunistické strany. Ačkoli Architektura projektované budovy ostře kontrastovala s historickým prostředím, stavební práce začaly v roce 1959. Struktura byla otevřena spolu s 22. Kongresem Komunistické strany Sovětského svazu 17. října 1961. V roce 1962 získali architekti projektu v čele s Michailem Posokhinem Leninovu cenu za svou práci.
budova je moderní konstrukce ze skla a betonu, přičemž téměř polovina (17 metrů) je ponořena do podzemí. Hlavní sál je schopen pojmout šest tisíc lidí a jeho akustika byla v té době považována za nejpokročilejší. V průběhu let to bylo hlavní místo pro masové státní akce (zejména stranické kongresy). V současné době se používá pro oficiální a populární koncerty. V paláci zahrály americké zpěvačky Mariah Carey, Tina Turner a Cher, stejně jako kanadský básník a písničkář Leonard Cohen. Kromě toho je místem konání Kremelského baletního divadla. Také tam vystupoval Bolshoi Ballet, zatímco jeho historická budova byla uzavřena pro opravy. Počet jednotlivých pokojů je více než osm set.
externě je palác potažen bílým mramorem a okna jsou tónovaná a reflexní,což činí starou architekturu v Kremlu obzvláště malebnou. Nicméně, od začátku, výstavba velké moderní veřejné budovy v historické čtvrti vyvolala docela rozruch, zejména proto, že budova nahradila několik historických budov, včetně staré neoklasické budovy Státní zbrojnice a některých zadních korpusů velkého Kremelského paláce. Ačkoli to bylo sotva poprvé, kdy sovětská vláda zničila architektonické dědictví (zejména kláštery Chudov a Ascension) v Kremlu a v zemi obecně, v polovině 50. let byly zavedeny zákony, které účinně zvažovaly všechny předsovětské stavby jako historické památky a bránily jejich demolici, čímž se stavba stala nezákonnou. Nicméně, palác byl integrován do většího komplexu velkého Kremelského paláce s chodníky spojujícími jej s patriarchálními komorami a Teremským palácem.