budynek został zbudowany z inicjatywy Nikity Chruszczowa jako nowoczesna arena spotkań Partii Komunistycznej. Chociaż Architektura projektowanego budynku Ostro kontrastowała z historycznym otoczeniem, prace budowlane rozpoczęły się w 1959 roku. Struktura została otwarta wraz z XXII zjazdem Komunistycznej Partii Związku Radzieckiego 17 października 1961 roku. W 1962 roku architekci projektu, na czele z Michaiłem Posokhinem, otrzymali nagrodę Lenina za swoją pracę.
budynek jest nowoczesnym projektem ze szkła i betonu, z prawie połową (17 metrów) zanurzoną pod ziemią. Sala główna jest w stanie pomieścić sześć tysięcy osób, a jej akustyka była uważana za najbardziej zaawansowaną w tamtym czasie. Przez lata było to główne miejsce masowych imprez państwowych (zwłaszcza kongresów partyjnych). Obecnie jest używany do oficjalnych i popularnych koncertów. W Pałacu grały Amerykańskie piosenkarki Mariah Carey, Tina Turner i Cher, a także kanadyjski poeta i piosenkarz Leonard Cohen. Ponadto jest to miejsce Kremlowskiego teatru baletowego. Występował tam również Balet Bolszoj, a jego zabytkowy budynek został zamknięty z powodu remontu. Liczba poszczególnych pokoi jest znacznie ponad osiemset.
zewnętrznie pałac jest wyłożony białym marmurem, a okna są przyciemnione i odblaskowe, co sprawia, że starożytna architektura na Kremlu wydaje się szczególnie malownicza. Jednak od samego początku budowa dużego nowoczesnego budynku użyteczności publicznej w zabytkowej dzielnicy wywołała spory niepokój, zwłaszcza że budynek zastąpił kilka zabytkowych budynków, w tym stary neoklasycystyczny budynek Państwowej zbrojowni i niektóre z korpusów tylnych Wielkiego Pałacu Kremla. Chociaż nie był to pierwszy raz, kiedy rząd radziecki zniszczył dziedzictwo architektoniczne (zwłaszcza krużganki Chudowa i Wniebowstąpienia) na Kremlu i w ogóle w kraju, w połowie lat 50.wprowadzono przepisy, które skutecznie traktowały wszystkie przedsowieckie budowle jako zabytki historyczne i zapobiegały ich wyburzeniu, w pewnym sensie czyniąc budowę nielegalną. Mimo to pałac został zintegrowany z większym kompleksem Wielkiego Pałacu Kremlowskiego z alejkami łączącymi go z komnatami Patriarchalnymi i Pałacem Terem.
