De retour en France, après diverses missions, il servit comme aide de camp du général L’Hotte avec lequel il voyagea beaucoup, mêlant la vie de garnison et les réunions mondaines et littéraires. Pendant quatre ans, il put ainsi nourrir son esprit d’idées novatrices sur la fonction de l'armée.
Nommé commandant, on l’envoya en Indochine (1894) où remarqué par Gallieni, il devint son chef d’état-major, et participa avec lui aux expéditions du haut Tonkin. En 1897, Gallieni, gouverneur général de Madagascar, lui confia la soumission du nord de l’île. Colonel (1900), rentré en France (1902), il fut appelé par le gouverneur d’Algérie (1903) et promu au commandement de la subdivision d’Aïn Sefra où il apprit sa promotion de général de brigade. Il soumit le Bechar, le haut Guir et une partie de la Mouloudja.
Après la conférence d’Algésiras (1906), qui avait pour but de décider les actions à mener pour le Maroc, l'un des rares pays africains qui n'avait pas été pris en charge par une puissance européenne, il fut nommé à la tête de la division d'Oran, occupa Oujda (1907), réprima le soulèvement des Beni Snassen et parvint à pacifier la zone frontière. Nommé haut-commissaire des confins algéro-marocains, il parvint à assurer la paix sur l’ensemble de la région.
A la fin de 1910, ayant reçu le commandement du 10e corps d’armée à Rennes, il y resta jusqu’à ce que, suite aux sanglants évènements de Fès (1912), il soit rappelé au Maroc avec le titre de résident général. Tout en réprimant les soulèvements qui secouaient le pays, il posa les jalons de son œuvre dans le protectorat. Auprès de Gallieni, Lyautey avait appris qu’une conquête devait être une pacification qui nécessitait simultanément une action politique, administrative, économique et militaire. Vaincre, c’était convaincre et construire. Au Maroc, en démontrant son respect et sa protection il s’appuya sur les autorités légales pour obtenir leur adhésion.
La déclaration de guerre de 1914 mettant le Maroc au second plan, il se trouva contraint de diriger la quasi-totalité de ses troupes vers la métropole. Avec les forces disponibles, il s’employa à tenir en respect les tribus insoumises et à apaiser les troubles fomentés par les agents allemands. Malgré ces difficultés, il réussit à développer son programme économique et social avec la construction de ponts, routes, voies ferrées et écoles.
En décembre 1916, après avoir un reçu un télégramme d’Aristide Briand lui proposant le ministère de la Guerre, bien qu’hésitant au regard des circonstances, il accepta le poste qu’il occupa de décembre 1916 à avril 1917 avant de démissionner. De retour au Maroc, il poursuivit et affirma l’œuvre entreprise et fut créé maréchal de France (1921). En 1925, en pleine guerre du Rif, se voyant retirer le commandement de ses troupes, que l'on confia à Pétain, il demanda à être relevé de ses fonctions et rentra en France définitivement cédant la place à sa légende dorée de « bon colonial » qui, sans lui retirer ses vertus et mérites, mériterait d’être édulcorée.
« Lyautey l’Africain » mourut dans son château de Thorey (Meurthe-et-Moselle) où il s’était retiré avec sa femme, et où tous deux firent construire pour le village un dispensaire familial et une maison pour les jeunes.
Plutôt que des obsèques nationales organisées à Paris, il avait souhaité que celles-ci se déroulassent à Nancy, capitale de sa « Lorraine bien aimée ». Et Nancy lui offrit des funérailles nationales dignes d'un prince lorrain. Pendant trois jours la foule défila devant le cercueil exposé à la chapelle ducale des Cordeliers et veillé par des officiers et des scouts.
Transporté au Palais du Gouvernement, sur l'affût d'un canon, à la lueur des flambeaux, dans le vent et sous la pluie, alors que sonnait le glas dans toutes les églises, les funérailles nationales se déroulèrent le 2 août, en présence du président Albert Lebrun. Le cercueil fut ensuite conduit dans la crypte de la cathédrale où il devait rester quinze mois, le temps de la construction d'un mausolée à Rabat, où il souhaitait reposer, et où il fut emmené en grande pompe fin octobre 1935.
C’est dans le parc de la Résidence, que fut érigée une koubba. Son épitaphe, en français et en arabe, composée par lui-même, disait :
« Ici repose Louis Hubert Lyautey, qui fut le premier Résident Général du Maroc, de 1912 à 1925. Décédé dans la foi catholique, dont il reçut, en pleine foi, les derniers sacrements. Profondément respectueux des traditions ancestrales et de la religion gardées et pratiquées par les habitants du Maghreb auprès desquels il a voulu reposer, en cette terre qu'il a tant aimée. Dieu ait son âme dans la vie éternelle ».
L’en-tête de cette épitaphe fut légèrment modifiée lorsque sa femme, Inès de Bourgoing (1862-1953), le rejoignit dans la tombe.