Das Gebäude wurde auf Initiative von Nikita Chruschtschow als moderne Arena für Treffen der Kommunistischen Partei errichtet. Obwohl sich die Architektur des geplanten Gebäudes stark vom historischen Milieu abhob, begannen die Bauarbeiten 1959. Die Struktur wurde zusammen mit dem 22. Kongress der Kommunistischen Partei der Sowjetunion am 17.Oktober 1961 eröffnet. 1962 erhielten die Architekten des Projekts unter der Leitung von Michail Posokhin den Lenin-Preis für ihre Arbeit.
Das Gebäude ist ein modernes Glas- und Betondesign, von dem fast die Hälfte (17 Meter) unterirdisch liegt. Die Haupthalle bietet Platz für sechstausend Personen und ihre Akustik galt zu dieser Zeit als die fortschrittlichste. Im Laufe der Jahre war dies der Hauptort für staatliche Massenveranstaltungen (insbesondere Parteitage). Derzeit wird es für offizielle und populäre Konzerte verwendet. Die amerikanischen Sänger Mariah Carey, Tina Turner und Cher haben im Palast gespielt, ebenso wie der kanadische Dichter und Singer-Songwriter Leonard Cohen. Außerdem ist es Austragungsort des Kreml-Balletttheaters. Auch das Bolschoi-Ballett trat dort auf, während das historische Gebäude wegen Reparaturen geschlossen wurde. Die Anzahl der einzelnen Zimmer beträgt weit über achthundert.
Äußerlich ist der Palast mit weißem Marmor verkleidet und die Fenster sind getönt und reflektierend, was die antike Architektur im Kreml besonders malerisch erscheinen lässt. Der Bau eines großen modernen öffentlichen Gebäudes in einem historischen Viertel sorgte jedoch von Anfang an für Aufsehen, zumal das Gebäude mehrere denkmalgeschützte Gebäude ersetzte, darunter das alte neoklassizistische Gebäude der Staatlichen Waffenkammer und einige der hinteren Leichen des Großen Kremlpalastes. Obwohl dies kaum das erste Mal war, dass die Sowjetregierung das architektonische Erbe (insbesondere den Chudov- und Ascension-Kreuzgang) im Kreml und im Land im Allgemeinen zerstörte, gab es Mitte der 1950er Jahre Gesetze, die alle vorsowjetischen Bauten als historische Denkmäler betrachteten und ihren Abriss verhinderten, wodurch der Bau illegal wurde. Dennoch wurde der Palast in den größeren Komplex des Großen Kremlpalastes integriert, mit Gehwegen, die ihn mit den patriarchalischen Kammern und dem Terem-Palast verbinden.
