Ziolkowski se narodil 6. září 1908 v Bostonu polským rodičům. Osiřel ve věku jednoho roku, kdy oba jeho rodiče zemřeli při nehodě na lodi, vyrostl v řadě pěstounských domovů,a byl vychován irským boxerem. Ačkoli nikdy nedostal žádné formální umělecké vzdělání, jeho dary jako sochař se začaly projevovat v raném věku. Poté, co se dostal na Rindge Technical School, stal se učedníkem Bostonského výrobce lodí.
začal vyřezávat dřevo a ve věku 20 let se stal dokonalým výrobcem nábytku. Jeho první mramorová socha, vyrobená v roce 1932, ocenila soudce Fredericka Pickeringa Cabota, který ho inspiroval jako dítě vyrůstající v drsných čtvrtích Bostonu.
Ziolkowski se přestěhoval do nové Británie v Connecticutu, aby začal život jako profesionální umělec. Začal prodávat zakázané sochy po celé Nové Anglii a New Yorku. V roce 1939 byl Ziolkowski najat jako pomocník sochaře Gutzonem Borglumem na jeho projektu Mount Rushmore. Podle Lincolna Borgluma, gutzonova syna, byl nešťastný, protože očekával, že se stane primárním asistentem. Místo toho byl hlavním asistentem Lincoln, a když se Ziolkowski hádal o svých rozkazech, Borglum ho telegramem vyhodil. Pěstní souboj mezi Lincolnem a Ziolkowským musel být přerušen.
jeho socha Ignacy Jana Paderewského získala první cenu na Světové výstavě v New Yorku v roce 1939. Výsledná sláva, stejně jako jeho znalost Black Hills, přiměl několik náčelníků lakoty, včetně lakoty staršího jménem Henry Standing Bear, napsat mu o pomníku ctícím Crazy Horse.
náčelník Jindřich stojící medvěd z lakoty mu napsal: „moji kolegové náčelníci a já bychom chtěli, aby bílý muž věděl, že rudý muž má také velké hrdiny.“
Ziolkowski se krátce nato setkal s vůdci a začal plánovat pomník. Během několika příštích let provedl výzkum a začal plánovat sochu. Setkal se také s Ruth Rossovou, mladý umělecký nadšenec, který se později stal jeho druhou manželkou. Projekt pozastavil, když Spojené státy vstoupily do druhé světové války. dobrovolně se přihlásil do služby a 17.května 1943 vstoupil do armády Spojených států. Byl zraněn v roce 1944 na pláži Omaha v Normandii. 5. listopadu 1945 byl propuštěn jako seržant.
v roce 1947 se Ziolkowski přestěhoval do černých kopců a začal hledat vhodnou horu pro svou sochu. Myslel si, že Wyoming Tetons by byla nejlepší volbou, kde by skála byla lepší pro řezbářství, ale Lakota chtěl památník v posvátných černých kopcích na 600-noha (180 m) – vysoká hora. Pomník měl být největší sochou na světě. Po dokončení by byla 563 Stop (172 m) vysoká a 641 Stop (195 m) dlouhá. Hlava šíleného koně by byla dostatečně velká, aby obsahovala všechny 60-noha (18 m)-vysoké hlavy prezidentů na Mount Rushmore.
3. června 1948 byl proveden první výbuch a památník byl věnován indiánskému lidu. V roce 1950 se Ziolkowski setkal s Ruth Rossovou, o 18 let mladší, která byla dobrovolníkem v Památníku. Toho roku se stala Ziolkowského druhou manželkou. Práce pokračovaly pomalu, protože odmítl přijmout vládní granty. Místo toho, jak osobně uvedl na hostujícím vystoupení v televizním pořadu „To Tell The Truth“, získal peníze na projekt účtováním sedmdesáti pěti centů vstupného do pracovního prostoru památníku.