systém byl zaveden poté, co George Washington oznámil svůj odchod do důchodu na konci svého druhého funkčního období, kdy demokraticko-Republikánská strana a Federalistická Strana začaly napadat volby na stranickém základě. Obě strany mohly v roce 1796 uspořádat neformální sjezdy, aby se pokusily rozhodnout o svých kandidátech. Po neorganizovaném volebním hlasování v roce 1796 uspořádaly obě strany v roce 1800 formální kluby, které vybíraly své příslušné prezidentské kandidáty (před ratifikací 12. Dodatku V roce 1804 každá strana provozovala dva prezidentské kandidáty). Federalisté tajně uspořádali svůj klub na začátku května, ale později zveřejnili svůj lístek prezidenta Johna Adamse a Charlese Coteswortha Pinckneyho. Demokraticko-republikáni se také tajně sešli v květnu, a dohodli se na stejné podpoře Thomase Jeffersona a Aarona Burra pro prezidenta. Federalisté po roce 1800 další sjezd neudrželi.
v roce 1804, po přijetí 12. dodatku, se klub demokraticko-republikánů znovu setkal. V hlasování výboru, George Clinton porazil Johna Breckinridge a byl nominován jako Jeffersonův kandidát. V roce 1808 příznivci Jamese Madisona porazili pokusy nominovat Clintonovou nebo Jamese Monroea místo Madison. Clinton byl nominován jako kandidát na viceprezidenta, ale Clinton kritizoval legitimitu kavkazského systému a Clinton i Monroe zvažovali kandidaturu na prezidenta. Federalisté mezitím uspořádali v roce 1808 v New Yorku proto-národní kongres, kde nominovali Charlese Coteswortha Pinckneyho a Rufuse Kinga. V roce 1812 získala Madison jednomyslnou opětovnou nominaci caucus. Demokraticko-republikánští členové newyorského zákonodárného sboru však odsoudili kavkazský systém jako nelegitimní a místo toho nominovali DeWitta Clintona, synovce George Clintona. Federalisté uspořádali další proto-úmluvu v roce 1812, kde souhlasili s podporou Clintona. Clintonová nakonec volby prohrála, ale Madisonovi poskytla silnou výzvu a získala 89 volebních hlasů.
v roce 1816 James Monroe těsně vyhrál nominaci své strany nad Williamem h. Crawfordem. Místo toho, aby zpochybnil výsledek Kavkazu, Crawford podpořil Monroeovu kandidaturu a rozhodl se počkat na svůj čas do budoucích voleb. Další demokraticko-Republikánský klub se sešel v roce 1820, ale odročen bez nominace. Monroeova kampaň za znovuzvolení v roce 1820 byla bez odporu, protože federalisté se stali extrémně slabými na národní úrovni a žádný demokraticko-Republikánský Monroe nezpochybnil, takže Monroe byl jediným prezidentským kandidátem od Washingtonu, který byl znovu zvolen bez vážné opozice. V 1824, Crawford byl nominován caucus, ale tři další demokraticko-Republikánští kandidáti také kandidovali na prezidenta, z nichž jeden, John Quincy Adams, vyhrál volby. Po roce 1824 se demokraticko-Republikánská strana rozpadla mezi příznivci Andrewa Jacksona a příznivci Adamse; oba kandidáti odsoudili kavkazský systém a v roce 1828 se žádný klub nekonal. Od roku 1831 byl kongresový nominační klub nahrazen národními prezidentskými nominačními konvencemi.
federalisté a demokratičtí republikáni z počátku 19. století nebyli tak organizovaní na státní a zejména federální úrovni jako pozdější strany, takže členové Kongresu byli jednou skupinou funkcionářů národní strany, kteří se pravidelně scházeli. Mnozí kritizovali kavkazský systém jako nelegitimní, protože nebyl zmíněn v Ústavě. Klub se také stal předmětem vnitrostranických bojů, zejména v roce 1808, kdy odpůrci Madisonu odsoudili jeho výběr. Kavkazský systém vyvolal obavy z oddělení pravomocí, protože členové legislativního odvětví nominovali vedoucího výkonné složky. Důležitost získání nové nominace mohla tlačit na Madison, aby zaujala agresivnější postoj v čele války v roce 1812. Mnoho kritiků kavkazského systému navrhlo, aby státy hrály primární roli při nominování kandidátů. Zastánci kavkazského systému však tvrdili, že je to nejlepší systém pro výběr národních kandidátů v zemi s několika státy.