Né le 13 septembre 1803 à Montmarault (Allier) dans une famille aisée, Louis Auguste Marie, dit Gustave Boucaumont, est élève de l’École des ponts et chaussées à partir du 20 novembre 1821. Aspirant quatre ans plus tard, il obtient le titre d’ingénieur en 1826, époque de son installation à Nevers où il se marie avec la fille d’un médecin. Il ne quittera cette ville qu’entre février 1840 et juin 1842, époque où il part exercer dans le département des Ardennes. Dans la Nièvre, durant les décennies 1840-1850, il est plus particulièrement chargé du développement du chemin de fer (et notamment de la construction du viaduc au-dessus de la Loire à Nevers).
Nommé brièvement conseiller municipal de Nevers en mai 1830, il est ensuite élu et réélu de 1837 jusqu’à sa mort. Il se présente, pour la première fois et sans succès, à l’élection législative de juillet 1842.
Alors qu’il est toujours ingénieur en chef pour le département de la Nièvre, il est élu au Conseil général de l’Allier pour le canton de Montmarault en octobre 1859. Mais ce retour dans son département natal ne dure pas puisque c’est vers lui que le Second Empire se tourne pour être candidat à la députation en juin 1863. Il est élu député sans concurrent puis, le 7 octobre, il est nommé maire de Nevers en remplacement de Jean Desveaux, démissionnaire. Enfin, en février 1866, lors d’une élection partielle, il est élu conseiller général de la Nièvre pour le canton de Nevers.
Alors que le Second Empire est en guerre contre la Prusse, il décède à Nevers le 9 août 1870. Nommé chevalier de la Légion d’honneur en 1839 par la monarchie de Juillet, officier en 1850 par la Deuxième République et commandeur en 1868 par le Second Empire, Gustave Boucaumont aura su servir et se servir de tous les régimes qui se sont succédé.
Pour le désigner, on peut également trouver l’appellation « Boucaumont aîné » : en effet, il avait un frère, Adolphe, de deux ans son cadet, qui a lui aussi fait la même carrière d’ingénieur au sein des ponts et chaussées. Ils ont même travaillé ensemble sur le réseau ferroviaire du centre de la France dans la décennie 1840.