Fan nació en Hangzhou, la capital de la provincia de Zhejiang, China. Su padre se llamaba Fan Qi (樊琦, 1879-1947) y sirvió en los tribunales de distrito de Jinhua y Wenzhou. Ky Fan fue a Jinhua con su padre cuando tenía ocho años de edad, y estudió en varias escuelas secundarias en Zhejiang, incluida la Escuela Secundaria Jinhua (actualmente Jinhua No. 1 Middle School), la Escuela Secundaria Hangzhou Zongwen (actualmente Hangzhou No.10 Middle School) y la Escuela Secundaria Wenzhou. Fan obtuvo su diploma de secundaria en la Escuela Secundaria Jinhua.
Fan se matriculó en el Departamento de Matemáticas de la Universidad de Pekín en 1932, y recibió su licenciatura de la Universidad de Pekín en 1936. Inicialmente Fan quería estudiar ingeniería, pero finalmente cambió a las matemáticas, en gran parte debido a la influencia de su tío Feng Zuxun (Ural, 1880-1940; nacido en Hangzhou, Pekín), que era matemático en China y el entonces Presidente del Departamento de Matemáticas de la Universidad de Pekín. Después de graduarse, Fan se convirtió en asistente docente en el departamento.
Fan fue a Francia en 1939 y recibió su D.Sc. licenciado por la Universidad de París en 1941. El asesor doctoral de Fan fue M. R. Fréchet. Fan fue investigador en el Centro Nacional de Investigación Científica de Francia (CNRS). Durante su tiempo en la escuela secundaria y la universidad, Fan dijo que «odiaba el inglés». Esa fue una razón importante para que eligiera las matemáticas, con menos inglés pero lleno de ecuaciones, e ir a París.
Fan fue miembro del Instituto de Estudios Avanzados de Princeton, Nueva Jersey, de 1945 a 1947. En 1947, Fan se unió a la facultad de matemáticas de la Universidad de Notre Dame, donde fue profesor asistente al principio, y más tarde ascendido a profesor asociado y profesor titular. En 1960, Fan también ocupó un puesto en la Universidad Estatal Wayne en Detroit durante aproximadamente un año, pero de inmediato fue a la Universidad Northwestern cerca de Chicago. En 1965, Fan se convirtió en profesor de matemáticas en la UCSB. Fan era conocido por ser un profesor extremadamente estricto.
Fan fue elegido Académico de la Academia Sinica (Taipei, Taiwán) en 1964. Se desempeñó como director del Instituto de Matemáticas de 1978 a 1984.
En 1999, Fan y su esposa Yan Youfen (燕又芬) donaron un millón de dólares a la American Mathematical Society, para establecer la Fundación de Fans de Ky y Yu-Fen.
Fan tenía 23 estudiantes graduados. Murió en Santa Bárbara en marzo de 2010.