Suurin osa Saksan alueesta kuului frankkihallitsija Kaarle Suuren kuningaskuntaan (768-814). Vuonna 800 paavi kruunasi Kaarlen keisariksi ja Pyhä Rooman imperiumi syntyi. Karolingien keisarikunta jakaantui Verdunin sopimuksen mukaan vuonna 843. Tämän jaon pohjalta syntyivät myöhemmin Ranska ja Saksa. Syntyi saksaa puhuvien germaanien kuningaskunta. Se oli kuitenkin hyvin hajanainen ja esimerkiksi Saksi ja Baijeri pitivät hyvin itsenäisen asemansa. Otto Suuren aikana 900-luvulla keskushallinnon ote jälleen kiristyi. Saksalaiset valloittivat alueita idästä slaaveilta.

Sydänkeskiajalla Saksan alueella oli useita poliittisesti merkittäviä tekijöitä. Ruhtinas- ja herttuakuntien kilpailijoiksi alkoivat nousta kaupungit. Varallisuus alkoi yhä enemmän kasaantua kaupunkeihin, ja ne alkoivat saada yhä itsenäisemmän aseman. Kaupungit liittoutuivat keskenään, pyrkivät hallitsemaan ympäröivää maaseutua ja suhtautuivat vihamielisesti maaseudun aatelisiin. Kaupunkien liitoista tärkeimmät olivat Reinin liitto ja Hansaliitto. Samaan aikaan ruhtinaat kasvattivat valtaansa suhteessa keisariin.

Habsburg-suku nousi merkittävään asemaan Saksan alueella. Pyhä saksalais-roomalainen keisarikunta siirtyi Habsburgeille Fredrik III myötä 1400-luvulla. Fredrikin poika Maksimilian loi pohjan Habsburgien imperiumille. Hänen pojanpoikansa Kaarle V hallitsi suurta valtakuntaa Madridista Wieniin. Siihen kuuluivat saksalaisten osien lisäksi Burgundi, Alankomaat, Napolin kuningaskunta ja Espanjan imperiumi uudessa maailmassa.