syntyi Roxburyssa, Massachusettsissa, ja Gaffneyn perhe muutti Worcesteriin hänen ollessaan 11-vuotias. Hän aloitti baseballin pelaamisen kolmosvahtina, mutta hänen lupaava uransa päättyi, kun hän loukkasi kätensä heittäessään lumipalloa vuonna 1880, tiettävästi juuri ennen kuin hänet ylennettiin National Leagueen. Hän ryhtyi kirjanpainajaksi ja alkoi erotuomaroida läheisten Ivy Leaguen joukkueiden yliopistopelejä vuonna 1883.
hän liittyi National Leaguen erotuomaristoon elokuussa 1884, jolloin hänen ensimmäinen ottelunsa oli 11-vuoroparin tasoittava 1-0-ottelu kahden ykköspaikasta taistelevan joukkueen, Providencen ja Bostonin välillä. Hän saavutti nopeasti laajaa arvostusta huipputorjujana sekä liigan parhaana pallojen ja lakkojen tuomarina. Kesken kolmannen kautensa hänen pelitietouttaan arvostettiin niin paljon, että hänelle tarjottiin Washington Nationalsin managerin paikkaa, ja hän otti joukkueen vastuulleen 21.elokuuta 1886. Viimeiseksi sijoittunut talli sijoittui kauden viimeisellä kolmanneksella parantamatta asemiaan, mutta Gaffney jatkoi tehtävässä koko vuoden 1887 kampanjan ajan, hieman parantaen sijoitustaan seitsemänneksi. Hän päätti manageriuransa 61 voittoon ja 101 tappioon. Hän oli paljon halunnut pelaajat, ja kun hän oli matkalla aikana 1887 world championship series, hänen pelaajat – kuten sieppari Connie Mack ja tulevaisuuden erotuomarina suuri Hank O ’ Day – kyytiin hänen junansa aikana Washington välilaskun ja yllätti hänet lahja timanttisormus kiitokseksi hänen ponnistelujaan.
1880-luvulle asti pesäpalloa oli aina pelattu yhden erotuomarin avulla, mutta vuosikymmenen loppupuolella alkoi käydä ilmi, että tämä oli epätyydyttävä järjestely tärkeimpiin otteluihin. Vuoden 1886 Mestaruussarjassa oli nähty kahden ottelun kokeilu, jossa jokainen joukkue valitsi erotuomarin-molemmat sijoitettiin siepparin taakse – jossa kolmas virkamies, jota kutsuttiin erotuomariksi, sijoitettiin syöttäjän taakse ja pystyttiin liikkumaan pesäpaikoilla. Erotuomari sai kuitenkin soittaa vain, kun kaksi erotuomaria olivat joko eri mieltä tai pyysivät hänen päätöstään; kaikki tarkkailijat pitivät järjestelmää epäonnistuneena. Seuraavana vuonna nl valitsi Gaffneyn yhdeksi vuoden 1887 sarjan erotuomareista Kick Kellyn ohella, jota pidettiin American Associationin parhaana erotuomarina vuosina 1883-1886 ennen kuin hän johti liigan Louisvillen joukkuetta vuonna 1887. Kaksikko kehitti systeemin, jossa toinen erotuomari työskentelisi kotilevyn takana soittaen palloja ja lakkoja, kun taas toinen asemoi itsensä kentälle soittamaan puheluita pesille. Tämä formaatti oli suuri menestys, ja vaikka kaksi erotuomaria per peli tuli standardiksi vasta lähes vuonna 1910, se muodosti perustan sitä seuranneille useille erotuomarijärjestelmille. Gaffney myöhemmin erotuomarina 1888 ja 1889 championship series, ja jälleen kolme peliä 1892 NL championship series, yhteensä 37 postseason pelejä – 19th-luvulla ennätys.
vuoden 1887 sarjan jälkeen Gaffney ja Kelly palasivat molemmat erotuomareiksi, joskin he vaihtoivat samalla liigaa – Kelly siirtyi kaudeksi 1888 NL: ään, kun taas Gaffney siirtyi American Associationiin kaudeksi 1888-89, jossa hän sai palkkaa 2 500 dollaria plus tiekulut, tehden hänestä helposti parhaiten palkatun erotuomarin. American Associationissa Gaffney oli uranuurtaja siirryttäessä siepparin takaa syöttäjän taakse lyöjän saavuttaessa ykköspesän, mikä oli ratkaiseva siirto yksinäisten erotuomarien aikana. Hän teki muita innovaatioita, kuten kutsumalla palloja reiluiksi tai huonoiksi riippuen siitä, missä ne raivasivat aidan sen sijaan, missä ne laskeutuivat, ja luomalla paidan, johon ylimääräisiä baseballs voitaisiin tallentaa. Jokaisen kauden jälkeen hän ilmoitti sääntöjen puutteista ja puutteista liigalle,ja monet hänen ehdottamistaan korjauksista hyväksyttiin.
Mack, joka oli Gaffneyn vuoden 1887 joukkueen Rookie-sieppari ja jäi myöhemmin kiinni 5 vuoden ajan, jolloin Gaffney toimi erotuomarina, kuvaili häntä täydelliseksi erotuomariksi; erotuomarilegenda Bill Klem totesi, että hän oli ensimmäinen, jota kutsuttiin yleisesti ”erotuomarien kuninkaaksi”.
Gaffney siirtyi Players’ Leagueen sen ainoaksi kaudeksi 1890 ennen paluutaan NL: ään syyskuussa 1891. Stressi 19th century erotuomari, kun pelaajat ja fanit osoittivat valtavaa väärinkäyttöä ja vihamielisyyttä yksinäinen erotuomarit, alkoi ottaa veronsa, kuitenkin, ja Gaffney vapautettiin NL jälkeen 1893 kauden, koska hänen kasvava juominen. Aloitettuaan 1894 Eastern Leaguessa hän palasi kesken kauden NL: ään, mutta hänen alkoholinkäyttönsä jatkui ja hänet päästettiin jälleen vapaaksi. Hän toimi erotuomarina Eastern Leaguessa jälleen 1895-1897 ennen paluutaan NL: ään 1899-1900 Tom Lynchin kanssa tullen yhdeksi vain kahdesta miehestä erotuomariksi 12 major league-kaudella 1800-luvulla.
hän toimi erotuomarina Yliopistopeleissä Worcesterin lähellä vuoden 1900 jälkeen ja muutti myöhemmin New Yorkiin, jossa hän työskenteli yövartijana.
Gaffney kuoli köyhyydessä 58-vuotiaana New Yorkissa. Kuolemansa jälkeen Mack järjesti hyväntekeväisyysottelun Worcesterissa Philadelphia Athleticsin ja Boston Red Soxin välillä maksaakseen Gaffneyn haudalle pystytetyn muistomerkin.
vuonna 1946 Gaffney otettiin mukaan Baseballin Kunniarulliin.