La naissance de Rheinmetall est indissociable de l'époque qui l'a vu naître : la Gründerzeit, ou « période des fondateurs », de l'Empire allemand de la fin du XIXe siècle. Ce fut un moment de progrès industriel, économique et technologique considérable à travers l'Allemagne. Après l'unification de l'Empire allemand en 1871, une vague d'expansion économique et d'industrialisation déferla sur la nation. Les États allemands, autrefois un ensemble fragmenté de territoires ruraux, se transformèrent rapidement en une puissance principalement urbaine et industrielle, devancée seulement par les États-Unis en 1914. Cette période vit la fondation d'innombrables nouvelles entreprises, banques et sociétés, alimentée par une puissante combinaison d'euphorie nationale, d'innovation technologique et de substantielles réparations de guerre françaises.
Ce fut un âge d'invention et d'ambition. Nikolaus Otto avait mis au point le moteur à quatre temps, Alexander Graham Bell le téléphone, et Thomas Edison l'ampoule électrique. En Allemagne même, Werner Siemens présenta le premier train électrique, tandis que Gottlieb Daimler et Karl Benz pionnèrent les avancées de l'ingénierie automobile. Le réseau ferroviaire du pays s'étendait à un rythme féroce, devenant le plus long d'Europe et alimentant la croissance des industries de l'acier et du charbon. En 1893, la production d'acier allemande avait surpassé celle de la Grande-Bretagne, le berceau même de la Révolution industrielle. Les usines allemandes étaient de plus en plus reconnues comme plus grandes et plus modernes que leurs homologues britanniques et françaises. Ce dynamisme industriel s'accompagnait d'une confiance nationale croissante et d'un désir d'affirmer la position de l'Allemagne comme grande puissance européenne. Cela alimenta à son tour une expansion et une modernisation significatives de l'armée allemande.
Au cœur de cette modernisation militaire se trouvait le besoin d'armements avancés et, surtout, d'un approvisionnement fiable en munitions. La fin du XIXe siècle fut une période d'évolution rapide de la technologie des armes à feu. L'introduction de la poudre sans fumée et de balles de plus petit calibre à haute vélocité rendit de nombreux fusils existants obsolètes. En 1888, l'armée allemande adopta le Gewehr 88, ou « Fusil de commission », qui tirait une nouvelle cartouche de 7,92 mm. La demande pour cette nouvelle munition était immense, et les arsenaux de l'État peinaient à suivre le rythme. Cela créa une opportunité significative pour l'industrie privée d'intervenir et de combler le vide.
Le catalyseur de la création de Rheinmetall prit la forme d'un important contrat de munitions du ministère de la Guerre allemand. Le bénéficiaire de ce contrat fut la Hörder Bergwerks- und Hütten-Verein, un important conglomérat minier et sidérurgique basé à Dortmund. Cependant, l'entreprise, sous la direction de son directeur général Joseph Massenez, manquait de l'expertise spécifique et de la capacité pour produire des cartouches de munitions finies à l'échelle requise. Plutôt que de laisser passer cette opportunité lucrative, Massenez chercha un partenaire.
Il en trouva un en la personne d'Heinrich Ehrhardt, un ingénieur talentueux et ambitieux originaire de Thuringe. Ehrhardt était un inventeur ingénieux qui s'était déjà fait un nom. Reconnaissant l'ampleur du contrat gouvernemental, il releva le défi. Le 13 avril 1889, avec le soutien d'un syndicat bancaire, la « Rheinische Metallwaaren- und Maschinenfabrik Aktiengesellschaft » (Société anonyme de fabrique de machines et d'articles métalliques rhénans) fut fondée. La nouvelle entreprise fut officiellement enregistrée au tribunal local de Düsseldorf le 7 mai 1889. Le nom était une déclaration directe de son objectif et de son emplacement : une usine sur le Rhin dédiée aux articles métalliques et aux machines.
Le choix de Düsseldorf comme base de l'entreprise était stratégique. Située sur les rives du Rhin, la ville était un centre commercial et économique en plein essor au sein de la région rhénane-ruhr en rapide industrialisation. Après être passée sous contrôle prussien en 1815, Düsseldorf avait connu un renouveau spectaculaire porté par la Révolution industrielle. Sa population s'envola, doublant entre 1882 et 1892 seulement, alors qu'elle devenait un centre administratif pour les industries lourdes de la région et un nœud clé du réseau ferroviaire en expansion. Cela offrait à la nouvelle entreprise d'excellentes liaisons de transport pour l'approvisionnement en matières premières et la distribution de ses produits finis, ainsi qu'un accès à une main-d'œuvre industrielle croissante.
La production débuta rapidement. En décembre 1889, dans des locaux loués de la Talstraße à Düsseldorf, les premières cartouches sortirent de la chaîne de production. L'objectif immédiat était d'honorer la commande massive pour le fusil Gewehr 88, et la jeune entreprise se montra plus que capable. Sous la direction dynamique d'Ehrhardt, qui supervisa la construction de l'usine et en géra les opérations, l'entreprise croît à un rythme étonnant. Au bout de sa première année, l'entreprise employait déjà 1 400 personnes et produisait 800 000 balles par jour.
Tout en honorant ce contrat étatique fondateur, Ehrhardt posait simultanément les bases de l'avenir à long terme de l'entreprise. Il commença immédiatement la construction des propres bâtiments d'usine de la société, construits à cet effet, dans le quartier de Düsseldorf-Derendorf, sur l'Ulmenstraße, vers lesquels la production fut progressivement transférée. Mais sa vision s'étendait bien au-delà du simple rôle de fournisseur de munitions. Innovateur infatigable, Ehrhardt explorait déjà de nouvelles technologies et méthodes de production qui assureraient la position de l'entreprise à l'avant-garde de l'industrie allemande.
Une percée cruciale survint au début des années 1890. Après de nombreuses tentatives, Ehrhardt mit au point avec succès un procédé révolutionnaire pour la fabrication de tubes sans soudure à partir d'un seul bloc d'acier. Il obtint des brevets pour son « Procédé pour le poinçonnage et le façonnage simultané de lingots de fer et d'acier à l'état chauffé » en 1891 et une technique de pressage et d'étirage supplémentaire en 1892. Cette innovation changea la donne. Les tubes en acier sans soudure avaient une vaste gamme d'applications, du matériel militaire à l'industrie civile. Ils étaient ardemment recherchés par les compagnies de chemin de fer et de navigation, les services de gaz et d'eau, et d'innombrables autres entreprises industrielles.
Cette diversification vers les produits en acier à haute résistance marqua la première étape significative de l'évolution de l'entreprise, passant de simple producteur de munitions à groupe technologique intégré. L'expansion rapide tirée à la fois par les commandes de l'État et le succès du procédé de tubage sans soudure créa un nouveau défi : une demande insatiable d'acier de haute qualité. Pour sécuriser sa chaîne d'approvisionnement, Rheinmetall, sous la direction d'Ehrhardt, acquit la Metallwerk Ehrhardt & Heye AG, une petite forge d'estampage située à Düsseldorf-Rath, en 1892. Cette installation fut pleinement intégrée à l'entreprise en 1896, assurant un flux constant de matières premières pour les usines en plein essor de Derendorf.
Cinq ans seulement après sa fondation, le succès précoce et le potentiel de croissance de l'entreprise étaient si évidents qu'en 1894, la « Rheinische Metallwaaren- und Maschinenfabrik Aktiengesellschaft » fit son entrée en bourse, ses actions étant officiellement cotées à la Bourse de Berlin pour la première fois. Cet apport de capital fournit les ressources pour une expansion et une recherche supplémentaires. De son objectif initial, pragmatique, d'honorer une commande d'État de munitions, l'entreprise avait, en quelques courtes années, établi sa place en tant que force dynamique et innovante dans le paysage industriel de l'Empire allemand, posant les jalons de sa transformation en géant industriel.