Ensimmäinen linnoitus samalle paikalle on rakennettu 10-luvulla ja se oli rakennettu puusta mutta vuonna 1367 muuri rakennettiin valkoisesta kivestä. Vuosina 1482-1495 se rakennettiin uudelleen. Kun Napoleon hyökkäsi Moskovaan vuonna 1812 ja Moskivan Kreml vaurioitui vakavasti. Vuonna 1917 Kremlistä tuli Venäjän hallinnollinen keskus.