En décembre 1990, les premières élections libres entièrement allemandes depuis la période nazie confèrent une majorité élargie à la coalition de Kohl. Après 45 ans de division, l’Allemagne était à nouveau unie et, l’année suivante, Kohl aida à négocier le Traité sur l’Union européenne, qui établissait l’Union européenne (UE) et ouvrait la voie à l’introduction de l’euro, la monnaie unique de l’UE, d’ici la fin de la décennie.
La réalisation de l’unification nationale fut bientôt assombrie par une série de difficultés, certaines dues à des problèmes structurels de l’économie européenne, d’autres aux coûts et conséquences de l’unification elle-même. Comme la plupart du reste de l’Europe, l’Allemagne a été confrontée dans les années 1990 à une concurrence mondiale accrue, aux coûts croissants de son système de protection sociale élaboré et au chômage tenace, en particulier dans son secteur industriel traditionnel. Cependant, il a également dû faire face aux dépenses supplémentaires stupéfiantes d’unifier l’est et l’ouest. Ces dépenses étaient d’autant plus troublantes qu’elles étaient apparemment inattendues. Kohl et ses conseillers avaient peu fait pour préparer les contribuables allemands aux coûts de l’unification, en partie parce qu’ils craignaient les conséquences politiques potentielles, mais aussi parce qu’ils étaient eux-mêmes surpris par l’ampleur de la tâche. Le cœur du problème était l’état de l’économie de l’Allemagne de l’Est, qui était bien pire que ce que quiconque avait réalisé ou admis. Seule une poignée d’entreprises orientales pouvaient rivaliser sur le marché mondial ; la plupart étaient terriblement inefficaces et destructrices pour l’environnement. En conséquence, l’ancienne économie est-allemande s’est effondrée, des centaines de milliers d’habitants de l’Est ont été confrontés au chômage et l’est est devenu fortement dépendant des subventions fédérales. Dans le même temps, les infrastructures — routes, lignes de chemin de fer, téléphones, etc. — nécessitaient des investissements massifs en capital pour servir de base à la croissance économique future. En bref, la promesse de prospérité immédiate et d’égalité économique, sur laquelle reposait le processus rapide et relativement indolore d’unification, s’est avérée impossible à remplir. Le chômage, la dislocation sociale et la déception ont continué de hanter les nouveaux Länder plus d’une décennie après la chute du mur de Berlin.
L’écart économique persistant entre l’est et l’ouest n’était qu’une des difficultés de l’unification. Sans surprise, de nombreux habitants de l’Est en voulaient à ce qu’ils considéraient comme l’arrogance et l’insensibilité occidentales. Les termes Wessi (« occidental ») et Ossi (« oriental ») en sont venus à impliquer différentes approches du monde: la première compétitive et agressive, le produit de ce que les Allemands appellent la « société du coude » de l’Occident; ce dernier passif et indolent, produit de la sécurité étouffante du régime communiste. Le PDS est devenu la voix politique des mécontents de l’Est, avec un soutien fort mais localisé dans certains des nouveaux Länder. De plus, l’Union populaire allemande néofasciste (Deutsche Volksunion), dirigée par l’éditeur millionnaire Gerhard Frey, a recueilli un soutien important parmi la masse de travailleurs sans emploi de l’Allemagne de l’Est. Outre le ressentiment et la désillusion ressentis par de nombreux orientaux et certains occidentaux à l’égard de l’unification, il y avait aussi le problème de se réconcilier avec l’héritage laissé par 40 ans de dictature. L’Allemagne de l’Est avait mis au point un appareil de sécurité important et efficace (la Stasi), qui employait un vaste réseau d’informateurs professionnels et amateurs. Lorsque les dossiers de cette organisation ont commencé à être rendus publics, les Allemands de l’Est ont découvert que beaucoup de leurs citoyens les plus éminents, ainsi que certains de leurs amis, voisins et même des membres de leur famille, étaient à la solde de la Stasi. Accepter ces révélations — juridiquement, politiquement et personnellement — a ajouté à la tension de la décennie postunification.
Malgré les problèmes liés à l’unification, ainsi qu’une série de scandales dans son propre parti, Kohl remporte une victoire étriquée en 1994. En 1996, il a dépassé le record d’Adenauer en tant que chancelier allemand le plus ancien depuis Bismarck. Néanmoins, sa popularité était clairement en baisse. De plus en plus intolérant aux critiques au sein de son propre parti, Kohl subit une défaite humiliante lorsque son premier choix pour la présidence est rejeté. Au lieu de cela, Roman Herzog, président de la Cour constitutionnelle fédérale, a été élu en mai 1994 et a rempli ses fonctions avec efficacité et grâce. Alors que l’Allemagne se préparait pour les élections de 1998, son économie chancelait — le chômage dépassait les 10% et était le double de celui dans une grande partie de l’Allemagne de l’Est — et certains membres du parti de Kohl espéraient ouvertement qu’il se retirerait en faveur d’un nouveau candidat; au lieu de cela, le chancelier s’est présenté à nouveau et sa coalition a été défaite, mettant fin à ses 16 ans de chancellerie. Kohl a été remplacé comme chancelier par Gerhard Schröder, le leader pragmatique et photogénique du SPD, qui a formé une coalition avec le Parti vert.