Un precursor de la actual catedral fue construido en 1250, y fue reemplazado por una iglesia de piedra en 1333 por el Gran Duque Iván Kalita, que más tarde se convertiría en el primer monarca ruso en ser enterrado en la iglesia. En 1505, el Gran Duque Iván III, ya en medio de un gran proyecto de renovación para el Kremlin, dirigió su atención a la iglesia, como en el caso de la reconstrucción de la Catedral de la Asunción dos décadas antes, recurrió a arquitectos de Italia para obtener ayuda. Un italiano, Lamberti Aloisio da Mantagnana (Aloisio el Nuevo) fue invitado a Moscú, y el 21 de mayo de 1505 se allanaron los terrenos para una nueva catedral. Iván murió en otoño del mismo año, y fue enterrado en el edificio aún inacabado. El trabajo en la catedral se completó a finales de 1508, pero no se consagró formalmente hasta el 8 de noviembre de 1509.
El nuevo edificio incorporó muchos elementos del Renacimiento italiano, y muchos de estos detalles (considerados «exóticos» para los estándares de Moscú) desaparecieron durante reparaciones y restauraciones posteriores. Las paredes interiores no se pintaron con frescos hasta la década de 1560, y en 1564 se pintó un fresco de Lazar de Serbia. Además, en el interior de la catedral se encuentran las representaciones de San Sava, Esteban Nemanja (San Simeón) y el emperador bizantino Miguel VIII Paleólogo, que atestiguan la conexión de Iván el Terrible con sus raíces serbias. Su madre Elena Glinskaya era hija del príncipe Vasili Lvóvich Glinsky de Lituania y de la princesa serbia Ana Jakšić.
La catedral fue dañada en el incendio del Kremlin de 1737, y se vio amenazada aún más por la construcción del predecesor del Gran Palacio del Kremlin, que provocó el hundimiento del suelo y causó una ligera inclinación en la orientación de las paredes.
Las victorias de los militares rusos se celebraron en la Catedral del Arcángel. Todos los zares y grandes príncipes rusos fueron enterrados en la catedral hasta la época de Pedro el Grande, junto con muchas emperatrices y príncipes de sangre, con la única excepción de Boris Godunov. Después de que la necrópolis real se trasladara a la Catedral de San Pedro y San Pablo en San Petersburgo, solo el zar Pedro II, que murió en Moscú, fue enterrado aquí.
Vista de la Catedral del Arcángel desde el Campanario de Iván el Grande, con la Catedral de la Anunciación al fondo.
Hay 54 entierros en la catedral, con 46 lápidas ornamentadas de piedra blanca (1636-1637) y vitrinas de bronce (1903). Cabe destacar la tumba del Zarévich Demetrio, hijo de Iván el Terrible, que fue enterrado allí a principios del siglo XVII y más tarde canonizado.
Durante la Revolución Rusa de 1917, la catedral fue dañada durante los combates. Después, fue cerrado por el régimen bolchevique. Durante la década de 1950, junto con las otras iglesias sobrevivientes en el Kremlin de Moscú, se conservó como museo. Una gran parte de los tesoros de la iglesia fueron transferidos al Museo de Armería del Kremlin o vendidos en el extranjero.
Después de 1992, el edificio fue devuelto a la Iglesia Ortodoxa Rusa y se reanudaron los servicios religiosos ocasionales.