Envoyé en Algérie (1841), il se vit confier la mission délicate de veiller sur le jeune duc d’Aumale qui faisait ses premières armes, mais il se distingua surtout lors de diverses expéditions de ravitaillement périlleuses. Commandant de la province de Constantine (1843), il écrasa dix-sept tribus. Craint pour sa témérité et son inflexibilité légendaires, les Arabes l’avaient surnommé le Bou-drâ (le manchot).
Appelé à la 6ème division militaire à Besançon (1848), il opposa la plus énergique résistance aux commissaires de Ledru-Rollin qui essayaient de révolutionner la région. Pour marquer leur reconnaissance, les électeurs du Doubs l’envoyèrent siéger comme député à l’Assemblée Constituante, puis à la Législative où il siégeait avec la majorité conservatrice. Fort en « gueule », sans doute parfois un peu trop, il savait tenir tête aux orages parlementaires.
Puis se rapprochant du Prince-président, Louis-Napoléon, il en devint l’un de ses plus actifs défenseurs, et se vit confier des missions diplomatiques notamment auprès du pape Pie IX qu’il réinstalla à Rome. Son zèle envers Louis Napoléon l’amena à le soutenir lors du coup d’Etat de 1851 au terme duquel il devint Napoléon III.
Baraguey était un soldat, et la diplomatie n’était pas son fort. Après une expérience peu convaincante comme ambassadeur à Constantinople, il commanda le corps expéditionnaire de la Baltique et fit capituler en quatre jours la forteresse de Bormasund ce qui lui valut son bâton de maréchal douze jours plus tard, le 28 août 1854.
Entré au Sénat, dont il devint l’un des vice-présidents, lors de la guerre d’Italie il ouvrit brillamment la campagne par la victoire de Montebello (20 mai 1859), battit les Autrichiens à Melegnano et prit une part importante à la victoire de Solferino (24 juin).
En revanche, placé le 19 juillet 1870 à la tête des troupes de Paris par Napoléon III avec mission de maintenir l'ordre, il démissionna le 13 août et cessa d'exercer son commandement.
En 1871, choisi pour présider les commissions d’enquête des places fortes qui amenèrent, entre autres, à l’arrestation de Bazaine, il refusa de le juger l’année suivante. Son action fut vivement critiquée par ses pairs de l'Empire.
Homme énergique et impulsif, caractère difficile, aussi dur envers les autres qu'avec lui-même, constatant qu'il s'était oublié durant son sommeil et n'admettant pas qu'un maréchal de France pût ainsi déchoir, il se suicida le alors qu'il était en cure à Amélie-les-Bains.
Dans le même caveau, à proximité de sa sépulture, a été rapporté le cœur de son père, Louis Baraguey d’Hilliers (1764-1813), qui mourut à Berlin.