Narodil se v Roxbury, Massachusetts, gaffneyho Rodina se přestěhovala do Worcesteru, když mu bylo 11. Začal hrát baseball jako třetí baseman, ale jeho slibná kariéra byla ukončena, když si v roce 1880 poranil ruku házením sněhové koule, údajně těsně předtím, než byl povýšen do Národní ligy. Stal se tiskařem a v roce 1883 začal umpirovat vysokoškolské hry zahrnující nedaleké týmy Ivy League.
v srpnu 1884 se připojil k rozhodčímu týmu Národní ligy, přičemž jeho první zápas byl 11 směn, 1-0 hra mezi dvěma týmy bojujícími o první místo, Providence a Boston. Rychle si získal široký respekt jako špičkový funkcionář a jako nejlepší rozhodčí ligy míčů a úderů. V polovině své třetí sezóny byla jeho znalost hry tak vysoce ceněna, že mu byla nabídnuta řídící pozice Washington Nationals a převzal tým 21.srpna 1886. Tým, utápěný na posledním místě, dokončil poslední třetinu sezóny, aniž by zlepšil svou pozici; ale Gaffney pokračoval ve funkci po celou kampaň 1887, s mírným zlepšením na 7. místo. Svou manažerskou kariéru zakončil 61 výhrami proti 101 ztrátám. Hráči ho velmi oblíbili, a zatímco cestoval během série mistrovství světa v roce 1887, jeho hráči-včetně chytače Connie Macka a budoucího rozhodčího velkého Hanka o ‚ Daye-nastoupili do vlaku během mezipřistání ve Washingtonu a překvapili ho darem diamantového prstenu jako ocenění jeho úsilí.
do roku 1880 se baseball vždy hrál s použitím jediného rozhodčího, ale koncem desetiletí se ukázalo, že se jedná o neuspokojivé uspořádání nejdůležitějších her. Série mistrovství světa v roce 1886 byla svědkem experimentu se dvěma hrami, ve kterém každý tým vybral rozhodčího-oba umístěné za chytačem – s třetím úředníkem, zvaným rozhodčí, umístěným za džbánem a schopným pohybovat se po základnách. Nicméně, rozhodčímu bylo povoleno volat pouze tehdy, když oba rozhodčí buď nesouhlasili, nebo požádali o jeho rozhodnutí; tento systém považovali všichni pozorovatelé za selhání. Následující rok, Gaffney byl vybrán NL jako jeden ze dvou rozhodčích pracovat série 1887, spolu s Kick Kelly, který byl považován za nejlepšího rozhodčího v Americké asociaci od 1883 do 1886 před řízením týmu Louisville této ligy v 1887. Ti dva vypracovali systém, podle kterého by jeden rozhodčí pracoval za domácí deskou, volání míčů a úderů, zatímco druhý se umístil v poli, aby zavolal na základny. Tento formát byl rozhodnut úspěch, a ačkoli to nebylo až téměř 1910, že dva rozhodčí na hru se stal standardem, to tvořilo základ pro více rozhodčích systémů, které následovaly. Gaffney později umpired v 1888 a 1889 championship series, a znovu pro tři hry v 1892 nl championship series, pro celkem 37 postseason hry-rekord 19.století –
po sérii 1887 se Gaffney i Kelly vrátili k rozhodčímu, i když v tomto procesu vyměnili ligy-Kelly se přestěhoval do NL pro sezónu 1888, zatímco Gaffney přešel do Americké asociace pro roky 1888-89, kde obdržel plat $ 2,500 plus silniční výdaje, což z něj učinilo snadno nejlépe placeného rozhodčího. V Americké asociaci, Gaffney propagoval praxi přechodu zpoza chytače za džbán, když těsto dosáhlo první základny, zásadní krok ve dnech osamělých rozhodčích. Udělal další inovace, včetně volání míče spravedlivé nebo faul v závislosti na tom, kde vyčistili plot, spíše než kde přistáli, a vytvoření košile, ve které by mohly být uloženy další baseballové míče. Po každé sezóně, hlásil lize opomenutí a nedostatky v pravidlech, a mnoho z jeho navrhovaných revizí bylo přijato.
Mack, který byl nováčkem chytajícího týmu Gaffneyho z roku 1887 a později chytal po dobu 5 let, ve kterých Gaffney rozhodoval, ho popsal jako dokonalého rozhodčího; rozhodčí legenda Bill Klem poznamenal, že byl prvním, kdo byl široce nazýván „králem rozhodčích“.
Gaffney se přestěhoval do hráčské ligy pro svou jedinou sezónu v 1890 před návratem do NL v září 1891. Stres rozhodčích 19. století, kdy hráči a fanoušci prokázali obrovskou urážlivost a nepřátelství vůči osamělým rozhodčím, si však začal vybírat svou daň a Gaffney byl po sezóně 1893 propuštěn NL kvůli jeho rostoucímu pití. Po začátku roku 1894 ve východní lize se v polovině sezóny vrátil do NL, ale jeho zneužívání alkoholu pokračovalo a byl znovu propuštěn. On rozhodčí ve východní lize znovu od 1895 do 1897 před návratem do NL v 1899-1900, spojující Tom Lynch se stal jedním z pouhých dvou mužů na rozhodčí v 12 major league sezón v 19. století.
po roce 1900 se přestěhoval do New Yorku, kde pracoval jako noční hlídač.
Gaffney zemřel v chudobě ve věku 58 let v New Yorku. Po jeho smrti, Mack uspořádal benefiční hru ve Worcesteru mezi jeho Philadelphia Athletics a Boston Red Sox, aby zaplatil za pomník nad gaffneyovým hrobem.
v roce 1946 byl Gaffney zařazen do Honor Rolls of Baseball.