En France, la réserve militaire apparaît après la guerre de 1870. Elle est destinée à remplacer la Garde nationale, institution à statut civil créée par Gilbert du Motier de La Fayette en 1790.
En 1866, Napoléon III, influencé par le modèle prussien, souhaite instituer une réserve militaire comparable à la Landwehr, pouvant rivaliser avec cette dernière. Après d'âpres débats au Corps législatif, cela débouche sur la loi Niel du 4 février 1868 qui s'avère être une tentative infructueuse, bien éloigné du projet initial de l'empereur. Elle a cependant le mérite d'institutionnaliser la réserve avec la création de la Garde Nationale Mobile, même si l'instruction des réservistes est, par manque de moyens et de volonté, limitée. Elle est composée des bons numéros1 qui ont échappé au service dans l'armée d'active, des exemptés et des volontaires avec une durée de service de cinq ans. D'autre part, les mauvais numéros, après un service de cinq ans dans l'active, sont également obligés de servir quatre ans dans la réserve. Au total, celle-ci réunit environs 600 000 hommes.
La loi Cissey du 27 juillet 1872 met en place les principes de la réserve militaire qui restent valides jusqu'en 1999. À l'origine, les obligations militaires des citoyens français, d’une durée de vingt ans, sont fixées comme suit :
