urodzony w Roxbury w stanie Massachusetts, rodzina gaffneya przeniosła się do Worcester, gdy miał 11 lat. Zaczął grać w baseball jako trzeci baseman, ale jego obiecująca kariera zakończyła się, gdy kontuzjował rękę rzucając Śnieżką w 1880 roku, podobno tuż przed awansem do National League. Został drukarzem i w 1883 roku rozpoczął sędziowanie meczów studenckich z udziałem pobliskich drużyn Ivy League.
dołączył do kadry sędziowskiej National League w sierpniu 1884 roku, a jego pierwszym meczem był 11-inning, 1-0 mecz pomiędzy dwoma drużynami walczącymi o pierwsze miejsce, Providence i Boston. Szybko zyskał szeroki szacunek jako czołowy urzędnik, a także jako najlepszy sędzia ligi piłki i uderzeń. W połowie trzeciego sezonu jego znajomość gry była tak wysoko oceniana, że zaproponowano mu posadę menedżera Washington Nationals, a 21 sierpnia 1886 roku przejął zespół. Drużyna, która zajęła ostatnie miejsce, zakończyła ostatnią trzecią część sezonu bez poprawy swojej pozycji, ale Gaffney utrzymał się na stanowisku przez całą kampanię 1887, z lekką poprawą na 7 miejsce. Zakończył karierę menedżerską z 61 zwycięstwami i 101 porażkami. Był bardzo lubiany przez graczy, a podczas podróży podczas mistrzostw świata 1887, jego gracze – w tym łapacz Connie Mack i przyszły sędzia Wielki Hank O ’ Day – weszli do pociągu podczas postoju w Waszyngtonie i zaskoczyli go prezentem w postaci diamentowego pierścienia w uznaniu jego wysiłków.
w 1880 roku baseball zawsze był rozgrywany przy użyciu jednego arbitra, ale pod koniec dekady stało się jasne, że był to niezadowalający układ dla najważniejszych meczów. Seria Mistrzostw Świata w 1886 roku była świadkiem eksperymentu dwóch gier, w którym każda drużyna wybrała arbitra-obaj umieszczeni za łapaczem – z trzecim urzędnikiem, zwanym sędzią, umieszczonym za miotaczem i zdolnym do poruszania się po bazach. Jednak sędzia mógł wykonywać połączenia tylko wtedy, gdy obaj arbitrzy nie zgodzili się lub zażądali jego decyzji; system ten został uznany za awarię przez wszystkich obserwatorów. W następnym roku Gaffney został wybrany przez NL jako jeden z dwóch arbitrów do serii 1887, wraz z Kick Kelly, który był uważany za najlepszego arbitra w American Association od 1883 do 1886, zanim w 1887 roku zarządzał drużyną Louisville w tej lidze. Obaj wypracowali system, w którym jeden sędzia będzie pracował za płytą domową, wzywając piłki i strajki, podczas gdy drugi ustawił się w polu, aby wykonywać połączenia na bazach. Format ten był zdecydowanym sukcesem i chociaż nie było aż do prawie 1910, że dwa arbitrów na mecz stał się standardem, stanowił podstawę dla wielu systemów arbitrów, które następnie. Gaffney wystąpił później w 1888 i 1889 championship series, a także ponownie w 1892 NL championship series, w sumie w 37 meczach po sezonie, co jest XIX-wiecznym rekordem.
po serii 1887, Gaffney i Kelly wrócili do sędziowania, chociaż zmienili Ligę – Kelly przeniósł się do NL na sezon 1888, podczas gdy Gaffney przeszedł do American Association na lata 1888-89, gdzie otrzymał pensję w wysokości 2500 dolarów plus wydatki drogowe, co czyni go najlepiej opłacanym arbitrem. W American Association, Gaffney był pionierem praktyki przechodzenia zza łapacza do za miotaczem, gdy pałkarz dotarł do pierwszej bazy, kluczowego ruchu w czasach samotnych arbitrów. Wprowadził inne innowacje, w tym nazywanie piłek fair lub faulem w zależności od tego, gdzie wyczyściły płot, a nie gdzie wylądowały, i tworzenie koszulki, w której można było przechowywać dodatkowe piłki baseballowe. Po każdym sezonie zgłaszał do Ligi pominięcia i niedociągnięcia w Regulaminie, a wiele z proponowanych przez niego zmian zostało uchwalonych.
Mack, który był żółtodziobem w zespole Gaffneya z 1887 roku, a później złapany przez 5 lat, w których Gaffney sędziował, opisał go jako doskonałego arbitra; legenda sędziowania Bill Klem zauważył, że był pierwszym powszechnie nazywanym „królem arbitrów”.
Gaffney przeniósł się do Players’ League na swój jedyny sezon w 1890 roku, zanim powrócił do NL we wrześniu 1891 roku. Stres dziewiętnastowiecznego sędziowania, kiedy gracze i fani wykazywali ogromną obraźliwość i wrogość wobec samotnych sędziów, zaczął jednak zbierać swoje żniwo, a Gaffney został zwolniony przez NL po sezonie 1893 z powodu jego rosnącego picia. Po rozpoczęciu sezonu 1894 w Lidze Wschodniej powrócił do NL W połowie sezonu, ale nadal nadużywał alkoholu i ponownie został zwolniony. W latach 1895-1897 ponownie występował w lidze Wschodniej, po czym powrócił do NL W latach 1899-1900, dołączając do Toma Lyncha, stając się jednym z dwóch arbitrów w 12 sezonach major league w XIX wieku.
po 1900 roku sędziował mecze w college ’ u w pobliżu Worcester, po czym przeniósł się do Nowego Jorku, gdzie pracował jako nocny stróż.
Gaffney zmarł w biedzie w wieku 58 lat w Nowym Jorku. Po jego śmierci Mack zorganizował mecz charytatywny w Worcester pomiędzy Philadelphia Athletics i Boston Red Sox, aby zapłacić za pomnik nad grobem Gaffneya.
w 1946 roku Gaffney został włączony do listy Honorowej baseballu.
