Fan föddes i Hangzhou, huvudstaden i Zhejiang-provinsen, Kina. Hans far hette Fan Qi (1879-1947) och tjänstgjorde för distriktsdomstolarna i Jinhua och Wenzhou. Ky Fan gick till Jinhua med sin far när han var åtta år gammal och studerade vid flera mellanskolor i Zhejiang inklusive Jinhua High School (för närvarande Jinhua No.1 Middle School), Hangzhou Zongwen High School (för närvarande Hangzhou No. 10 Middle School) och Wenzhou High School. Fan fick sitt gymnasieexamen från Jinhua High School.
Fan inskrivna i Peking University Department of Mathematics i 1932, och fick sin BS examen från Peking University i 1936. Inledningsvis Fan ville studera teknik, men så småningom flyttas till matematik, till stor del på grund av påverkan av hans farbror Feng Zuxun (1880-1940; B. Hangzhou, d. Peking), som var en matematiker i Kina och dåvarande ordförande för Institutionen för matematik i Peking University. Efter examen blev Fan lärarassistent på avdelningen.
Fan åkte till Frankrike 1939 och fick sin D.Sc. examen från Universitetet i Paris 1941. Fans doktorandrådgivare var M. R. Fr Jacobchet. Fan var forskare vid det franska nationella centrumet för vetenskaplig forskning (CNRS). Under sin gymnasium och college tid, Fan sa att han ”hatade engelska”. Det var en viktig anledning för honom att välja matematik, med mindre engelska men full av ekvationer, och åka till Paris.
Fan var medlem i Institute for Advanced Study i Princeton, New Jersey från 1945 till 1947. 1947 gick Fan med i matematiska fakulteten vid University of Notre Dame, där han var biträdande professor i början och senare befordrad till docent och professor. 1960 hade Fan också en position vid Wayne State University i Detroit i ungefär ett år, men gick omedelbart till Northwestern University nära Chicago. 1965 blev Fan professor i matematik vid UCSB. Fan var känd för att vara en extremt strikt professor.
Fan valdes till akademiker vid Academia Sinica (Taipei, Taiwan) 1964. Han tjänstgjorde som chef för Institutet för matematik där från 1978 till 1984.
i 1999 donerade Fan och hans fru Yan Youfen (Xiaomi) en miljon dollar till American Mathematical Society för att inrätta Ky och Yu-Fen Fan Endowment.
Fan hade 23 doktorander. Han dog i Santa Barbara i mars 2010.