Fan wurde in Hangzhou, der Hauptstadt der Provinz Zhejiang, China, geboren. Sein Vater hieß Fan Qi (樊琦, 1879-1947) und diente an den Bezirksgerichten von Jinhua und Wenzhou. Ky Fan ging mit seinem Vater nach Jinhua, als er acht Jahre alt war, und studierte an mehreren Mittelschulen in Zhejiang, darunter die Jinhua High School (derzeit Jinhua No.1 Middle School), Hangzhou Zongwen High School (derzeit Hangzhou No.10 Middle School) und Wenzhou High School. Fan erhielt sein Abitur an der Jinhua High School.
Fan eingeschrieben in Peking University Department of Mathematics in 1932, und erhielt seine BS grad von Peking University in 1936. Zunächst wollte Fan Ingenieurwissenschaften studieren, wechselte aber schließlich zur Mathematik, vor allem wegen des Einflusses seines Onkels Feng Zuxun (冯祖荀, 1880-1940; geb. Hangzhou, d. Peking), der Mathematiker in China und damaliger Vorsitzender der Fakultät für Mathematik der Peking-Universität war. Nach seinem Abschluss wurde Fan Lehrassistent in der Abteilung.
Fan ging 1939 nach Frankreich und erhielt seine D.Sc. abschluss an der Universität von Paris im Jahr 1941. Fan’s Doktorvater war M.R.Fréchet. Fan war wissenschaftlicher Mitarbeiter am Französischen Nationalen Zentrum für wissenschaftliche Forschung (CNRS). Während seiner Sekundarschule und College-Zeit, Fan sagte, er „hasste Englisch“. Das war ein wichtiger Grund für ihn, Mathematik zu wählen, mit weniger Englisch, aber voller Gleichungen, und nach Paris gehen.
Fan war von 1945 bis 1947 Mitglied des Institute for Advanced Study in Princeton, New Jersey. 1947 trat Fan der mathematischen Fakultät der University of Notre Dame bei, wo er zu Beginn Assistenzprofessor und später zum außerordentlichen Professor und ordentlichen Professor befördert wurde. Im Jahr 1960 hatte Fan auch eine Position an der Wayne State University in Detroit für etwa ein Jahr, ging aber sofort an die Northwestern University in der Nähe von Chicago. 1965 wurde Fan Professor für Mathematik an der UCSB. Fan war bekannt dafür, ein extrem strenger Professor zu sein.
Fan wurde 1964 zum Akademiker der Academia Sinica (Taipeh, Taiwan) gewählt. Dort war er von 1978 bis 1984 Direktor des Instituts für Mathematik.
1999 spendeten Fan und seine Frau Yan Youfen (燕又芬) eine Million US-Dollar an die American Mathematical Society, um das Ky and Yu-Fen Fan Endowment zu gründen.
Fan hatte 23 Doktoranden. Er starb im März 2010 in Santa Barbara.