Geboren in Roxbury, Massachusetts, zog Gaffneys Familie nach Worcester, als er 11 Jahre alt war. Er begann als Third Baseman Baseball zu spielen, aber seine vielversprechende Karriere wurde beendet, als er sich 1880 beim Werfen eines Schneeballs am Arm verletzte, Berichten zufolge kurz vor dem Aufstieg in die National League. Er wurde Drucker und begann 1883, College-Spiele mit nahe gelegenen Ivy-League-Teams zu leiten.
Er trat im August 1884 dem Schiedsrichterstab der National League bei, wobei sein erstes Spiel ein 11-Inning-1: 0-Spiel zwischen den beiden um den ersten Platz kämpfenden Teams Providence und Boston war. Er erlangte schnell großen Respekt als Top-Beamter und als bester Richter der Liga für Bälle und Schläge. In der Mitte seiner dritten Saison war sein Wissen über das Spiel so hoch angesehen, dass ihm die Führungsposition der Washington Nationals angeboten wurde, und er übernahm das Team am 21.August 1886. Das Team, das sich auf dem letzten Platz befand, beendete das letzte Drittel der Saison, ohne seine Position zu verbessern; aber Gaffney setzte den Posten für die gesamte Kampagne von 1887 mit einer leichten Verbesserung auf den 7. Platz fort. Er beendete seine Managerkarriere mit 61 Siegen gegen 101 Niederlagen. Er war bei den Spielern sehr beliebt, und während er während der World Championship Series 1887 reiste, stiegen seine Spieler – darunter Catcher Connie Mack und der zukünftige Schiedsrichter Hank O’Day – während eines Zwischenstopps in Washington in seinen Zug und überraschten ihn mit dem Geschenk eines Diamantrings in Anerkennung seiner Bemühungen.
In den 1880er Jahren wurde Baseball immer mit einem einzigen Schiedsrichter gespielt, aber Ende des Jahrzehnts zeigte sich, dass dies eine unbefriedigende Anordnung für die wichtigsten Spiele war. Die 1886 World’s Championship Series hatte ein Zwei-Spiele-Experiment erlebt, in dem jedes Team einen Schiedsrichter auswählte – beide hinter dem Fänger positioniert – mit einem dritten Beamten, genannt Schiedsrichter, hinter dem Krug positioniert und in der Lage, sich zu bewegen die Basen. Jedoch, Der Schiedsrichter durfte nur telefonieren, wenn die beiden Schiedsrichter entweder nicht einverstanden waren oder seine Entscheidung beantragten; dieses System wurde von allen Beobachtern als gescheitert angesehen. Im folgenden Jahr wurde Gaffney von der NL als einer der beiden Schiedsrichter ausgewählt, um die 1887-Serie zu bearbeiten, zusammen mit Kick Kelly, der von 1883 bis 1886 als bester Schiedsrichter in der American Association galt, bevor er 1887 das Louisville-Team dieser Liga leitete. Die beiden erarbeiteten ein System, bei dem ein Schiedsrichter hinter der Home Plate arbeiten würde, Bälle und Schläge anrufen, während der andere sich auf dem Feld positionierte, um Anrufe auf den Basen zu tätigen. Dieses Format war ein entschiedener Erfolg, und obwohl erst fast 1910 zwei Schiedsrichter pro Spiel zum Standard wurden, bildete es die Grundlage für die folgenden Mehrfachschiedsrichtersysteme. Gaffney war später Schiedsrichter in der 1888 und 1889 Championship Series und erneut für drei Spiele in der 1892 NL Championship Series, für insgesamt 37 Nachsaison–Spiele – ein Rekord des 19.
Nach der Serie von 1887 kehrten Gaffney und Kelly beide zum Schiedsrichter zurück, obwohl sie dabei die Ligen wechselten – Kelly wechselte für die Saison 1888 in die NL, während Gaffney 1888/89 zur American Association wechselte, wo er ein Gehalt von 2.500 US-Dollar plus Straßenkosten erhielt, was ihn zum bestbezahlten Schiedsrichter machte. In der American Association, Gaffney war Pionier in der Praxis, sich hinter dem Fänger hinter den Krug zu bewegen, wenn ein Schlagmann die erste Basis erreichte, Ein entscheidender Schritt in den Tagen der Einzelschiedsrichter. Er machte andere Innovationen, einschließlich Bälle fair oder Foul zu nennen, je nachdem, wo sie den Zaun geräumt haben, anstatt wo sie gelandet sind, und ein Hemd zu schaffen, in dem zusätzliche Baseballs aufbewahrt werden können. Nach jeder Saison meldete er der Liga Auslassungen und Unzulänglichkeiten in den Regeln, und viele seiner vorgeschlagenen Überarbeitungen wurden erlassen.
Mack, der ein Rookie Catcher für Gaffneys 1887-Team war und später für 5-Jahre gefangen wurde, in denen Gaffney Schiedsrichter war, beschrieb ihn als den perfekten Schiedsrichter; Schiedsrichterlegende Bill Klem bemerkte, dass er der erste war, der weithin als „König der Schiedsrichter“ bezeichnet wurde.
Gaffney wechselte 1890 für seine einzige Saison in die Players’League, bevor er im September 1891 in die NL zurückkehrte. Der Stress des Schiedsrichterwesens im 19.Jahrhundert, als Spieler und Fans enorme Missbräuchlichkeit und Feindseligkeit gegenüber den einsamen Schiedsrichtern zeigten, begann jedoch seinen Tribut zu fordern, und Gaffney wurde nach der Saison 1893 aufgrund seines zunehmenden Alkoholkonsums von der NL entlassen. Nachdem er 1894 in der Eastern League begonnen hatte, kehrte er Mitte der Saison in die NL zurück, aber sein Alkoholmissbrauch setzte sich fort und er wurde wieder entlassen. Von 1895 bis 1897 war er erneut Schiedsrichter in der Eastern League, bevor er 1899-1900 in die NL zurückkehrte und mit Tom Lynch einer von nur zwei Männern wurde, die in 12 Major League-Spielzeiten im 19.
Er leitete nach 1900 College-Spiele in der Nähe von Worcester und zog später nach New York City, wo er als Nachtwächter arbeitete.
Gaffney starb im Alter von 58 Jahren in Armut in New York City. Nach seinem Tod arrangierte Mack ein Benefizspiel in Worcester zwischen seinen Philadelphia Athletics und den Boston Red Sox, um ein Denkmal über Gaffneys Grab zu bezahlen.
1946 wurde Gaffney in die Ehrenliste des Baseballs aufgenommen.
