Ziolkowski nasceu em 6 de setembro de 1908, em Boston, filho de pais poloneses. Órfão aos Um anos de idade, quando seus pais morreram em um acidente de barco, ele cresceu em uma série de lares adotivos e foi criado por um boxeador Irlandês. Embora ele nunca tenha recebido nenhum treinamento formal de arte, seus presentes como escultor começaram a mostrar desde cedo. Depois de passar pela Rindge Technical School, ele se tornou um aprendiz de um fabricante de navios de Boston.
ele começou a esculpir madeira e aos 20 anos havia se tornado um fabricante de móveis talentoso. Sua primeira escultura de mármore, feita em 1932, homenageou o juiz Frederick Pickering Cabot, que o inspirou quando criança, crescendo nos bairros difíceis de Boston.
ziolkowski mudou-se para New Britain, Connecticut, para começar a vida como artista profissional. Ele começou a vender esculturas encomendadas em toda a Nova Inglaterra e Nova York. Em 1939, Ziolkowski foi contratado como assistente de escultor por Gutzon Borglum em seu projeto Mount Rushmore. De acordo com Lincoln Borglum, filho de Gutzon, ele estava infeliz, tendo esperado ser nomeado o assistente principal. Em vez disso, Lincoln era o assistente principal e, quando Ziolkowski discutiu sobre suas ordens, Borglum o demitiu por telegrama. Uma briga entre Lincoln e Ziolkowski teve que ser interrompida.Sua escultura de Ignacy Jan Paderewski ganhou o primeiro prêmio na Feira Mundial de Nova York de 1939. A fama resultante, bem como sua familiaridade com as colinas Negras, levou vários chefes Lakota, incluindo um ancião Lakota chamado Henry Standing Bear, a escrever para ele sobre um monumento em homenagem a Crazy Horse.O chefe Henry Standing Bear of the Lakota o escreveu, dizendo: “Meus companheiros chefes e eu gostaríamos que o homem branco soubesse que o homem vermelho também tem grandes heróis.”
Ziolkowski se reuniu com os líderes pouco depois e começou a planejar um monumento. Nos anos seguintes, ele conduziu pesquisas e começou a planejar a escultura. Ele também conheceu Ruth Ross, uma jovem entusiasta da arte, que mais tarde se tornaria sua segunda esposa. Ele colocou o projeto em espera quando os Estados Unidos entraram na Segunda Guerra Mundial. ele se ofereceu para o serviço e se juntou ao Exército dos Estados Unidos em 17 de Maio de 1943. Ele foi ferido em 1944 na Praia De Omaha, na Normandia. Ele foi dispensado como sargento em 5 de novembro de 1945.
em 1947 Ziolkowski mudou-se para as colinas negras e começou a procurar uma montanha adequada para sua escultura. Ele pensou que o Wyoming Tetons seria a melhor escolha, onde a rocha seria melhor para esculpir, mas o Lakota queria o memorial nas colinas Negras sagradas em uma montanha de 180 m de altura. Esperava-se que o monumento fosse a maior escultura do mundo. Quando concluído, teria 563 pés (172 m) de altura por 641 pés (195 m) de comprimento. A cabeça de Crazy Horse seria grande o suficiente para conter todas as cabeças de 60 pés (18 m) de altura dos Presidentes no Monte Rushmore.
em 3 de junho de 1948, a primeira explosão foi feita e o memorial foi dedicado ao povo nativo americano. Em 1950, Ziolkowski conheceu Ruth Ross, 18 anos mais jovem, que era voluntária no Monumento. Ela se tornou a segunda esposa de Ziolkowski naquele ano. O trabalho continuou devagar, já que ele se recusou a aceitar doações do governo. Em vez disso, como ele afirmou pessoalmente em uma aparição especial no programa de TV “to Tell the Truth”, ele arrecadou dinheiro para o projeto cobrando setenta e cinco centavos de admissão na área de trabalho do monumento.