Fan werd geboren in Hangzhou, de hoofdstad van de provincie Zhejiang, China. Zijn vader heette Fan Qi (樊琦, 1879-1947) en diende voor de districtsrechtbanken van Jinhua en Wenzhou. Ky Fan ging naar Jinhua met zijn vader toen hij acht jaar oud was, en studeerde aan verschillende middelbare scholen in Zhejiang, waaronder de Jinhua High School (momenteel Jinhua No.1 Middle School), Hangzhou Zongwen High School (momenteel Hangzhou No. 10 Middle School), en Wenzhou High School. Fan behaalde zijn middelbare diploma van de Jinhua High School.Fan schreef zich in 1932 in voor de Faculteit Wiskunde van de Universiteit van Peking en behaalde in 1936 zijn bachelordiploma aan de Universiteit van Peking. Aanvankelijk wilde Fan ingenieurswetenschappen studeren, maar ging uiteindelijk over op wiskunde, grotendeels vanwege de invloed van zijn oom Feng Zuxun (冯祖荀, 1880-1940; Hangzhou, d. Beijing), die wiskundige was in China en de toenmalige voorzitter van de afdeling wiskunde van de Universiteit van Peking. Na zijn afstuderen werd Fan onderwijsassistent op de afdeling.
Fan ging in 1939 naar Frankrijk en ontving zijn D.Sc. diploma van de Universiteit van Parijs in 1941. Fan ‘ s Doctoraal adviseur was M. R. Fréchet. Fan was onderzoeker bij het Franse Nationale Centrum voor Wetenschappelijk Onderzoek (CNRS). Tijdens zijn middelbare school en college tijd, Fan zei dat hij “haatte Engels”. Dat was een belangrijke reden voor hem om wiskunde te kiezen, met minder Engels maar vol vergelijkingen, en naar Parijs te gaan.Fan was van 1945 tot 1947 lid van het Institute for Advanced Study in Princeton, New Jersey. In 1947 werd Fan lid van de wiskundige faculteit van de Universiteit van Notre Dame, waar hij in het begin assistent-professor was en later promoveerde tot universitair hoofddocent en gewoon hoogleraar. In 1960, Fan hield ook een positie aan Wayne State University in Detroit voor ongeveer een jaar, maar ging onmiddellijk naar Northwestern University in de buurt van Chicago. In 1965 werd Fan hoogleraar wiskunde aan de UCSB. Fan stond bekend als een extreem strenge professor.In 1964 werd Fan verkozen tot academicus van de Academia Sinica (Taipei, Taiwan). Van 1978 tot 1984 was hij directeur van het Instituut voor Wiskunde.In 1999 doneerden Fan en zijn vrouw Yan Youfen een miljoen dollar aan de American Mathematical Society voor de oprichting van de Ky en Yu-Fen fan Endowment.
Fan had 23 afgestudeerde studenten. Hij overleed in maart 2010 in Santa Barbara.